Önbaskı platformu, çalışmalarında yapay zeka hatalarına dair “tartışılmaz kanıtlar” bulunması halinde yazarları bir yıl süreyle yasaklayacak.
gorsh13/iStock/Getty Images
Büyük bir bilimsel veri deposunun, çalışmaları üretken yapay zeka tarafından yazılmış “halüsinasyonlu” referanslar içeren yazarları yasaklama kararı, politikanın nasıl düzgün bir şekilde uygulanabileceğine dair endişelere rağmen araştırma dürüstlüğü savunucuları tarafından memnuniyetle karşılandı.
Popüler ön baskı platformu arXiv, çığır açan bir hamleyle, gönderilerin büyük dil modelleriyle yazılmış “uygunsuz dil, çalıntı içerik, önyargılı içerik, hatalar, hatalar, yanlış referanslar veya yanıltıcı içerik” içerdiğine dair “tartışılmaz kanıt” bulması durumunda derhal bir yıllık yasak uygulayacağını söyledi.
arXiv’in bilgisayar bölümüne başkanlık eden Thomas Dietterich, “Bir gönderi, yazarların LLM oluşturma sonuçlarını kontrol etmediğine dair tartışılmaz kanıtlar içeriyorsa, bu, makaledeki hiçbir şeye güvenemeyeceğimiz anlamına gelir” diye açıkladı. Politikayı sosyal medya platformu X’te duyurdu.
Tartışmasız kanıt örnekleri arasında “halüsinasyonlu referanslar” ve “LLM’den gelen meta yorumlar” yer alıyor diye devam etti Dietterich, “işte 200 kelimelik bir özet; herhangi bir değişiklik yapmamı ister misiniz?” gibi ifadeleri silemeyen bir araştırmacının örneklerini veren Dietterich. veya “Bu tablodaki veriler örnek niteliğindedir; onu deneylerinizdeki gerçek sayılarla doldurun.”
ArXiv’e yönelik bir yıllık yasağın ardından, “daha sonraki arXiv başvurularının öncelikle saygın, hakemli bir mekanda kabul edilmesi zorunluluğu” gelecek, diye belirtti, emekli profesör Dietterich. Oregon Eyalet Üniversitesi Araştırmaları makine öğrenimi ve yapay zekaya odaklanıyor.
Yeni politika, yaygın olarak matematik, fizik ve bilgi işlem için ön baskı sunucusuna yapay zeka destekli gönderimlerin sayısını artırmaya yönelik bir girişim olarak görülüyor. Mart ayında ilk kez 30.000’den fazla başvuru alındı— 2020’de alınan 15.000 makalenin iki katından fazla ve 2015’te alınan 5.000 makalenin altı katı.
Bazı akademisyenler ilk suç için bir yıllık yasağın çok sert olduğunu öne sürse de, araştırma dürüstlüğü savunucusu Anna Abalkina, Berlin Özgür Üniversitesi“kağıt fabrikası gönderimlerine ve düşük kaliteli el yazmalarına karşı alınan önlemi” memnuniyetle karşıladı.
Abalkina, yasağın belirleyici niteliği hakkında “Çok fazla kuralımız var ama uygulama mekanizmalarımız çok az” dedi.
“Bu tedbiri memnuniyetle karşılıyorum çünkü meşru yazarlardan ziyade esas olarak kağıt fabrikalarını hedef alıyor. Her neyse, yazarların hâlâ itiraz şansı var” diye ekledi.
Abalkina’nın kendi araştırması, “alıntıları artırmak için yapılan ön baskı sunucularına gönderimlerde artış olduğunu” gösterdi. son ön baskı bilimsel konferanslara sunulan birçok makalenin daha önce kağıt fabrikaları tarafından satışa sunulduğunu gösteriyor.
Reese Richardson, doktora sonrası araştırma görevlisi Kuzeybatı ÜniversitesiAraştırma bütünlüğüne odaklanan Bilim ve Yenilik Bilimi Merkezi, politika değişikliğinin “şüphesiz bir şekilde takip ettiğini” söyledi. son çalışma Zhenyue Zhao ve aralarında arXiv’in kurucusu Paul Ginsparg’ın da bulunduğu diğerleri tarafından, yalnızca 2025 yılında dört ön baskıda yayınlanan makalelerde yaklaşık 150.000 “halüsinasyonlu” referansın mevcut olduğu ortaya çıktı.
Richardson, ön baskının “Yapay Zeka tarafından üretilen saçmalıkların gönderilmesini caydırmaya” yönelik çabalarını övmesine rağmen, şüpheli başvuruların boyutu göz önüne alındığında bu cezai önlemlerin işe yarayıp yaramayacağını sorguladı.
“Zhao ve diğerleri, her yıl halüsinasyonlu referanslar içeren binlerce taslağın arXiv’de yayınlanacağını tahmin ediyor. arXiv tüm bu başvurulara yasak uygulamayı planlıyor mu? Bu yasakların uygulanması, arXiv personelinin her vakayı karara bağlamasını ve itirazlara yanıt vermesini gerektiriyor; bunun, rahatsız edici davaların yalnızca küçük bir kısmını kovuştursalar bile, oldukça külfetli olacağını düşünüyorum” dedi.
Richardson, “ArXiv bu politikayı yalnızca seçici olarak uygularsa, yargılama ve infazda kaynak tasarrufu sağlayabilir. Ancak yakalansanız bile cezalandırılma riski çok düşükse, yazarların doğrulanmamış referanslarla içerik göndermeye devam etmesine karşı çok az teşvik vardır” diye ekledi.
Richardson, arXiv personelinin tahrifat, intihal ve saçma içerikli başvurulara nasıl müdahale edeceğine dair benzer endişelerin bulunduğunu söyledi. “Hepimiz daha az saçmalık görmek istesek de ölçeklenebilirlik konusunda aynı endişeler geçerli.”
Ancak yeni politika aynı zamanda bilimsel literatürde ön baskıların değişen rolü hakkında soruları da gündeme getirdi ve belirtilen misyonunun kalitelerini kontrol etmek yerine “araştırma makalelerini paylaşmak ve bilimsel keşifleri hızlı ve özgür bir şekilde kolaylaştırmak” olduğu göz önüne alındığında “arXiv’in zor bir durumda olduğunu” belirtti.
“Bilgi ekosisteminde üstlenilen rolü, resmi hakem değerlendirmesi ve yayın için editoryal kabul gibi geleneksel eşik koruma prosedürlerinden geçmemiş bilimsel çalışmalara ev sahipliği yapmaktır” diye açıkladı.
“Ancak bilgisayar bilimi veya yapay zeka gibi belirli alanlarda arXiv, dergiler ve konferanslar gibi rekabetçi yayın organlarının geleneksel olarak üstlendiği rolün yerini alıyor; öyle ki, arXiv hakkında eksiksiz bir makaleye sahip olmak başlı başına bir statü kazandıran başarı olabilir” dedi.
Richardson, “ArXiv gibi ön baskı platformları, artık dördüncü on yılını doldurmuş olmalarına rağmen, bilimsel iletişimde süregelen bir deney olmaya devam ediyor. Bu deney devam ettikçe, doğrulama ve eşik korumanın bu misyona nasıl etki etmesi gerektiği önemli bir tartışma konusu olmaya devam edecek” dedi.
