Polis, 17 Nisan 2025’te Florida’nın Tallahassee kentinde Florida Eyalet Üniversitesi’ndeki öğrenci birliğinin yakınında meydana gelen silahlı saldırı olay yerini araştırıyor. Saldırıda 2 kişi öldü, 5 kişi de yaralandı. Florida başsavcısı şu anda OpenAI’yi araştırıyor çünkü saldırgan olduğu iddia edilen kişi saldırıyı planlamak için ChatGPT’yi kullandı.
Miguel J. Rodriguez Carrillo/Getty Images
başlığı gizle
başlığı değiştir
Miguel J. Rodriguez Carrillo/Getty Images
Florida başsavcısı, sanık silahlı saldırganın bir saldırıda bulunduğu iddiaları üzerine ChatGPT ve ana şirketi OpenAI hakkında ceza soruşturması başlatıyor. Florida Eyalet Üniversitesi’nde silahlı saldırı geçen yıl iki kişiyi öldürmeden ve beş kişiyi daha yaralamadan önce yapay zeka sohbet robotuna danıştı.
Cumhuriyetçi başsavcı James Uthmeier bir konuşmasında şunları söyledi: basın toplantısı Salı günü Tampa’da, silahlı saldırgan Phoenix Ikner’i suçlayan kişi, Ikner’in sohbet kayıtlarının ilk incelemesine göre, vurulmadan önce ne tür silah kullanılacağı, hangi mühimmatın kullanılacağı ve daha fazla insanla karşılaşmak için kampüse ne zaman gidileceği dahil olmak üzere tavsiye almak için ChatGPT’ye danıştı.
Uthmeier, “Savcılarım bunu inceledi ve bana, ekranın diğer ucundaki bir kişi olsaydı, onu cinayetle suçlayacağımızı söylediler” dedi. “İnsanlara başkalarını nasıl öldürecekleri konusunda tavsiyelerde bulunan yapay zeka botlarına sahip olamayız.”
OpenAI sözcüsü Kate Waters, NPR’ye yaptığı yazılı açıklamada şunları söyledi: “Geçen yıl Florida Eyalet Üniversitesi’nde meydana gelen toplu silahlı saldırı bir trajediydi, ancak ChatGPT bu korkunç suçtan sorumlu değil.” Şirketin, silahlı saldırının ardından saldırganın hesabıyla ilgili bilgileri kolluk kuvvetleriyle paylaşmak için iletişime geçtiğini ve yetkililerle işbirliği yapmaya devam ettiğini söyledi.
Uthmeier’in ofisi mahkeme celbi çıkarmak OpenAI’ye, kullanıcılara zarar verme tehditleriyle ilgili politikaları ve dahili eğitim materyalleri hakkında bilgi almak ve Mart 2024’e kadar uzanan suçları kolluk kuvvetlerine nasıl bildirdiğini sormak için OpenAI’ye başvurdu. Basın toplantısında Uthmeier, soruşturmanın keşfedilmemiş bir alana girdiğini ve OpenAI’nin cezai sorumluluğu olup olmadığı konusunda belirsiz olduğunu kabul etti.
“Kimin neyi bildiğine, neyi tasarladığına veya ne yapması gerektiğine bakacağız” dedi. “Ve eğer bireylerin bu tür tehlikeli davranışların meydana gelebileceğini, bu tür talihsiz, trajik olayların meydana gelebileceğini bildiği ve buna rağmen yine de kâr amaçlı olduğu, bu işin devam etmesine izin verdiği açıksa, o zaman insanların sorumlu tutulması gerekir.”
OpenAI’den Waters, sohbet robotunun “internetteki kamu kaynaklarında geniş çapta bulunabilecek bilgilerle sorulara gerçekçi yanıtlar sağladığını ve yasa dışı veya zararlı faaliyetleri teşvik etmediğini veya teşvik etmediğini” söyledi.
Şöyle devam etti: “ChatGPT, her gün yüz milyonlarca insan tarafından meşru amaçlarla kullanılan genel amaçlı bir araçtır. Zararlı niyetleri tespit etmek, kötüye kullanımı sınırlandırmak ve güvenlik riskleri ortaya çıktığında uygun şekilde yanıt vermek için korumalarımızı güçlendirmek için sürekli çalışıyoruz.”
21 yaşındaki Ikner, Nisan 2025’te o sırada öğrenci olduğu FSU’nun Tallahassee kampüsündeki öğrenci birliğinin yakınında gerçekleşen silahlı saldırı nedeniyle çok sayıda cinayet ve cinayete teşebbüs suçlamasıyla karşı karşıya bulunuyor. Duruşması 19 Ekim’de başlayacak. Mahkeme dosyalarına göre davada 200’den fazla yapay zeka mesajı delil olarak kaydedildi.
Yapay zeka sohbet robotlarına ilişkin artan endişeler
Florida soruşturması, AI sohbet robotlarının kitlesel şiddetteki rolüne ilişkin endişelerin arttığı bir dönemde geldi. Uthmeier zaten açıklamıştı ChatGPT’nin rolüne ilişkin sivil soruşturma Devam eden FSU saldırısında mağdurlardan birinin ailesinin avukatları OpenAI’yi dava etmeyi planladıklarını söylüyor.
OpenAI zaten bir sorunla karşı karşıya dava Şubat 2026’da Britanya Kolumbiyası’nda sekiz kişinin ölümüne ve onlarca kişinin de yaralanmasına yol açan saldırıda ağır yaralanan bir kurbanın ailesinden. Saldırgan olduğu iddia edilen kişi, ChatGPT ile silahlı şiddet senaryolarını tartıştı ve hatta saldırıdan aylar önce platformdan yasaklandı, ancak tespit edilmekten kurtulup başka bir hesap oluşturmayı başardı. OpenAI Kanadalı yetkililere söyledi.
Wall Street Dergisi rapor edildi OpenAI’nin dahili sistemlerinin hesabın gönderilerini işaretlediğini ve çalışanların kolluk kuvvetlerini uyarmayı düşünecek kadar alarma geçtiğini, ancak şirketin bunu yapmamaya karar verdiğini söyledi. OpenAI’nin söylediği Kanada’daki silahlı saldırının ardından hesapları kolluk kuvvetlerine yönlendirme protokolünü “güçlendirmek” için değişiklikler yapıyor.
OpenAI’ye ve diğer AI sohbet robotu üreticilerine karşı da katkıda bulundukları iddiasıyla davalar artıyor. ruh sağlığı krizleri Ve intiharlar. (OpenAI, vakaların “inanılmaz derecede yürek parçalayıcı bir durum” olduğunu ve ChatGPT’nin zihinsel veya duygusal sıkıntı belirtilerine nasıl tepki vereceğini geliştirmek için ruh sağlığı uzmanlarıyla birlikte çalıştığını söyledi.)
Haksız bir ölüm Google’a dava açıldı Mart ayında Floridalı bir adamın intiharı üzerine şirketin Gemini chatbot’u, adamı “Miami Uluslararası Havaalanı yakınında toplu bir ölüm saldırısı düzenlemeye” itmekle suçlanıyor [and] masum yabancılara karşı şiddet uygulamak” ifadesine göre mahkeme belgeleri.
Bu davaya yanıt olarak Google şunları söyledi: “Gemini, gerçek dünyada şiddeti teşvik etmeyecek veya kendine zarar vermeyi önermeyecek şekilde tasarlandı. Modellerimiz genellikle bu tür zorlu konuşmalarda iyi performans gösteriyor ve buna önemli kaynaklar ayırıyoruz, ancak ne yazık ki mükemmel değiller.” Şirket, bu özel durumda Gemini’nin “kişiyi birçok kez kriz hattına yönlendirdiğini” ekledi.
