Aileler, Kanadalı toplu saldırganın ChatGPT kullanması nedeniyle OpenAI’ye dava açtı

Yaralanan ve ölenlerin aileleri okulda silahlı saldırı Tumbler Ridge, Britanya Kolumbiyası’nda OpenAI’yi ihmalden ve tetikçiye ChatGPT’nin tehlikeli derecede kusurlu bir versiyonunu sağlamaktan dolayı dava ediyoruz.

San Francisco’daki federal mahkemede açılan altı dava, OpenAI’nin 10 Şubat’ta meydana gelen silahlı saldırı sırasında yaralanmaları ve ölümleri önleyebilecek adımları atmadığını iddia ediyor. Şirketin, saldırganın ChatGPT ile yaptığı konuşmaları yetkililere bildirmediğini ve ChatGPT’nin kendisinin de tetikçiyi zorlamayan veya onu gerçek dünyadan yardım aramaya yönlendirmeyen kusurlu bir ürün olduğunu iddia ediyorlar.

Davalar, bir teknoloji şirketini ürünlerinin tasarımından sorumlu tutmaya yönelik son girişimler; bu, bir zamanlar yeni olan bir hukuki yaklaşım. giderek daha fazla kullanılıyor Chatbot yapımcılarına, sosyal medyaya ve diğer platformlara karşı.

Edelson, NPR’ye verdiği bir röportajda, sevdiklerini kaybedenler için “hukuk sisteminin onları yeniden bir araya getirecek hiçbir şey yapamayacağını” söyledi. Denemelerin OpenAI liderliğini hesaba katacağını umduklarını ekledi: “Gezegendeki en güçlü tüketici teknolojisine sahip oldukları konusunda onlara güvenilmemeli.”

OpenAI, davalara yanıt olarak yaptığı açıklamada, şiddet eylemlerine yardımcı olmak için araçlarını kullanma konusunda “sıfır tolerans” politikasına sahip olduğunu söyledi:

Bir OpenAI sözcüsü NPR’ye bir e-postada şunları söyledi: “ChatGPT’nin sıkıntı işaretlerine nasıl tepki verdiğini iyileştirmek, insanları yerel destek ve zihinsel sağlık kaynaklarıyla buluşturmak da dahil olmak üzere korumalarımızı zaten güçlendirdik.”

Uzun bir blog yazısında Salı günü geç saatlerde yayınlandıOpenAI, politikalarını daha da açıkladı: “Görüşmeler başkalarına yönelik yakın ve inandırıcı bir zarar riskini gösterdiğinde, kolluk kuvvetlerine bildirimde bulunuruz.”

“Hayat üzerinden kâr”

Tumbler Ridge’deki silahlı saldırı Kanada tarihindeki en ölümcül olaylar arasında yer alıyor. Yetkililere göre olay, 18 yaşındaki Jesse Van Rootselaar’ın uzun bir silah ve değiştirilmiş bir tabancayla yerel ortaokula girdiğinde meydana geldi. Van Rootselaar, kendini öldürmeden önce beş öğrenciyi ve bir öğretmeni öldürdü. Yetkililer daha sonra onun annesini ve 11 yaşındaki üvey erkek kardeşini de okula gelmeden önce evlerinde öldürdüğünü öğrendi. Saldırıda yaklaşık iki düzine kişi de yaralandı.

Çarşamba günü açılan davalarda ChatGPT’nin ve özellikle GPT-4o modelinin Tumbler Ridge’deki olaylarda çok önemli bir rol oynadığı iddia ediliyor. Çatışmada ağır yaralanan 12 yaşındaki Maya Gebala adına yapılan şikayetlerden biri, Van Rootselaar’ın vurulmadan aylar önce ChatGPT’de olduğunu ve 2025 yılının Haziran ayında OpenAI’nin otomatik sisteminin onun hesabını “silahlı şiddet faaliyeti ve planlaması” nedeniyle işaretlediğini iddia ediyor.

Bir güvenlik ekibi içeriği inceledi ve OpenAI yönetimini yetkilileri bilgilendirmeye çağırdı, ancak şikayette şirket yönetiminin bunun yerine hesabı devre dışı bırakmayı seçtiği iddia ediliyor. Davaya göre saldırgan ikinci bir hesap açıp ChatGPT ile görüşmelerine devam ettiğinde de harekete geçmediler.

Geçen hafta OpenAI CEO’su Sam Altman topluluktan özür diledi:

“Haziran ayında yasaklanan hesap konusunda kolluk kuvvetlerine uyarıda bulunmadığımız için çok üzgünüm.” o yazdı. “İleriye dönük olarak odak noktamız, böyle bir şeyin bir daha asla yaşanmamasını sağlamak için hükümetin her kademesiyle birlikte çalışmaya devam etmek olacak.”

Davada, yetkilileri yakın tehlike konusunda bilgilendirmediği iddiasının yanı sıra, OpenAI’nin bilerek kusurlu bir ürünü kamuoyuna sunduğu da iddia ediliyor.

Gebala’dan gelen şikayette, “Tumbler Ridge saldırısı, OpenAI’nin bu seçimlerin nereye vardığına dair tam bilgiyle yaptığı kasıtlı tasarım seçimlerinin tamamen öngörülebilir bir sonucuydu” diyor. “GPT-4o, kullanıcıların şiddet içeren düşüncelerini sorgulamak, kesintiye uğratmak veya kullanıcıları gerçek dünyadaki yardıma yönlendirmek yerine kabul etmek, güçlendirmek ve detaylandırmak için tasarlandı.”

OpenAI’de tehditleri tespit etmekten sorumlu bölümde çalışan Tim Marple, Tumbler Ridge çevresindeki olayların “OpenAI gibi bir yerde güvenlik konusunda merkezi otoritenin getirdiği ahlaki tehlikenin mümkün olduğunca açık bir göstergesi” olduğunu söyledi. Yapay zeka risklerini belirlemek için çalışan kar amacı gütmeyen bir kuruluş olan Maiden Labs’ın eş direktörü olan Marple, şirketin yetkililerle iletişime geçmemesine şaşırmadığını söyledi.

Son davayla ilgisi olmayan Marple, “Orada çalıştığım ve ayrıldığımdan beri davranışlarını karakterize eden tek şey beceriksizlik ve açgözlülüktü” dedi. Benzer trajedilerin tekrar yaşanmasını önlemek için zorunlu raporlama yasaları da dahil olmak üzere düzenlemelerin gerekli olduğuna inanıyor.

İfade özgürlüğü endişeleri

Ancak davaların ve düzenlemelerin Tumbler Ridge gibi trajedileri önlemeye yardımcı olacağı konusunda herkes hemfikir değil.

Santa Clara Üniversitesi Hukuk Fakültesi araştırma dekan yardımcısı Eric Goldman, “Birinin zulüm yapmasına neyin sebep olduğu genellikle açık değildir” dedi. Goldman, aşırı katı düzenlemelerin, chatbot’ları onlara ihtiyaç duyanlar için daha az kullanışlı hale getirebileceğinden endişe ediyor. Ayrıca chatbotların kusurlu ürünler olarak değerlendirilmesi gerektiği fikrini de reddediyor. Ona göre mesele aslında ifade özgürlüğüyle ilgili.

“Bunun gibi bir dava hakkında gerçekten zor sorular sorardım. Bazı durumlarda konuşma insanların hayatlarında kötü seçimler yapmasına katkıda bulunsa da, bu gerçekten konuşmayı düzenlemenin doğru yolu mu?” Goldman’ın söylediği şuydu:

Goldman ne olursa olsun ihmal ve kusurlu ürün şikayetlerinin arttığını söyledi. “Bu hukuk teorileri İnternet hukukunun yeni sınırıdır” dedi.

Daha fazlası gelecek

Büyük şirketlere karşı birçok davaya karışan teknoloji endüstrisini eleştiren bir savunuculuk grubu olan Tech Justice Law’ın genel müdürü Meetali Jain, AI şirketlerine yönelik hukuki ve cezai soruşturmaların sayısının arttığını kabul ediyor.

Jain’in grubu, Character.AI şirketinin yaptığı bir chatbot ile kapsamlı görüşmeler yaptıktan sonra intihar ederek ölen bir gencin ailesinin temsil edilmesine yardımcı oldu. Bu dava şu anda çözüm görüşmelerinde bulunuyor ancak yapay zeka sohbet robotlarının sorunlara yol açtığına dair giderek daha fazla örnek duyuyor: “Geçen yıl birçok farklı şirketin botları tarafından zarar gören insanların hikayelerini almaya başladık” dedi.

Jain, gelecekte Çarşamba günü açılanlara benzer daha fazla dava görmeyi beklediğini söyledi. Güçlü bir düzenlemenin yokluğunda Jain, sivil hak taleplerinin “dikkatsizce ve herhangi bir kısıtlama olmadan hareket etmeye devam eden yapay zeka şirketlerine karşı bir siper” sağladığını söyledi.