Florida, güvenlik ihlalleri iddiasıyla OpenAI ve Sam Altman’a dava açtı

Florida, bir eyaletin chatbotun iddia edilen eksiklikleri nedeniyle ChatGPT yapımcısına karşı açtığı ilk davada OpenAI ve CEO’su Sam Altman’ı güvenliğin üstünde kâr koymakla suçluyor.

davaPazartesi günü Florida eyalet mahkemesinde açılan davada, şirketin ve Altman’ın kullanıcıları ChatGPT’nin tehlikeli olabileceği konusunda uyarmadığını ve bunun yerine onu çocuklar da dahil olmak üzere güvenli ve güvenilir olarak pazarladığını iddia ediyor. Bu, kullanıcıların sohbet robotlarıyla etkileşimlerinin ardından ortaya çıkan zararlardan yapay zeka şirketlerini sorumlu tutmak için ülke çapında artan çabanın son salvosu.

Dava, OpenAI’yi, aralarında Florida Eyalet Üniversitesi’ndeki bir tetikçinin de bulunduğu toplu atıcılara yardım ve yataklık etmekle suçluyor. ChatGPT kullanıldı saldırısını planlamak, savunmasız insanları intihara teşvik etmek ve çocukları “ebeveyn gözetimi olmadan verilerini toplamak için insan şefkatini taklit eden bir araca” bağımlı kılmak.

Şikayette, “Bu zararlar dizisi, Davalıların ChatGPT’nin tehlikesini bilmelerine rağmen AI silahlanma yarışını kazanma ve büyük servetler biriktirme yönündeki doyumsuz arayışından kaynaklanmaktadır” denildi. “OpenAI’nin yükselişi, bir aldatma ağına ve kullanıcıların (Floridalılar dahil) sömürülmesine, OpenAI’nin piyasa değerini kabul edilemez maliyetlerle artırmak için verilerinden ve güvenliklerinden yararlanılmasına atfedilebilir.”

Florida ayrıca Altman’ı kişisel olarak sorumlu tutmaya çalışıyor.

Florida Başsavcısı James Uthmeier Pazartesi günü düzenlediği basın toplantısında, “Sam Altman ve ChatGPT, çocuklarımızın emniyeti ve güvenliği yerine yapay zeka yarışını seçtiler.” dedi. Altman ve şirketin “potansiyel olarak milyarlarca dolara kadar” cezalardan sorumlu olabileceğine inandığını da sözlerine ekledi.

OpenAI sözcüsü Kayla Wood, NPR’ye e-postayla gönderdiği açıklamada, “Bir çocuğu kaybetmek, bir ailenin başına gelebilecek en yıkıcı trajedidir ve hiçbir kelimenin böyle bir kaybın acısını gidermeye yaklaşamayacağını biliyoruz.” dedi.

Açıklamada şöyle devam edildi: “Yapay zeka yeni ve güçlü bir teknolojidir ve reşit olmayanların önemli ölçüde korumaya ihtiyacı olduğuna inanıyoruz, bu nedenle sektör lideri koruma ve politikaları uygulamaya koyduk.” “Özellikle reşit olmayanlar için güvenliği doğrudan ürünlerimizin içine yerleştirdik; bunlar arasında özellikle reşit olmayanlar için daha koruyucu bir deneyim, bir yaş tahmin aracı, yaşlarından emin olmadığımız kullanıcıları daha koruyucu deneyimimize varsayılan olarak dahil ettik ve ebeveynlere çocuklarının AI kullanımını izleyecek araçlar sağladık.”

Dava, OpenAI’nin ebeveyn kontrolleri de dahil olmak üzere koruma önlemlerinin yetersiz olduğunu ve şirketin “tehlikeli bir kamu rahatsızlığı” yarattığını iddia ediyor.

Davanın ilk sayfası, OpenAI’nin web sitesinden ChatGPT’nin “güvenlik dikkate alınarak oluşturulduğunu” belirten bir ekran görüntüsüyle başlıyor. Resmin ardından “Öyle değil” yazan bir dipnot geliyor.

Uthmeier’in ofisi ayrıca bir araştırma yürütüyor. OpenAI’ye yönelik cezai soruşturma FSU tetikçisinin Nisan 2025 saldırısı öncesinde ChatGPT’ye danıştığı iddiası üzerine.

ChatGPT kullanımından kaynaklandığı iddia edilen zararlar nedeniyle OpenAI’ye karşı 20’den fazla dava açıldı. Kanada’nın Tumbler Ridge kentindeki bir okulda toplu silahlı saldırıŞubat ayında öldürülen bir mağdurun ailesi FSU atışlarıve aileleri yedi kişiintihar ederek ölen veya acı çeken bir genç de dahil sanrılar Chatbot’u kullandıktan sonra.

Altman, Nisan ayında Tumbler Ridge topluluğundan özür diledi ve OpenAI, bu davalara yanıt olarak, araçlarını şiddet eylemlerine yardımcı olmak için kullanma konusunda “sıfır tolerans” politikasına sahip olduğunu söyledi.

Uthmeier, FSU saldırısıyla ilgili soruşturmasını açıkladıktan sonra bir OpenAI sözcüsü, sohbet robotunun “internetteki kamu kaynaklarında geniş çapta bulunabilecek bilgilerle sorulara gerçek yanıtlar sağladığını ve yasa dışı veya zararlı faaliyetleri teşvik etmediğini veya teşvik etmediğini” söyledi. Açıklama şöyle devam etti: “Zararlı niyeti tespit etmek, kötüye kullanımı sınırlamak ve güvenlik riskleri ortaya çıktığında uygun şekilde yanıt vermek için korumalarımızı güçlendirmek için sürekli çalışıyoruz.”

OpenAI, intihar ve sanrılarla ilgili davaları “inanılmaz derecede yürek parçalayıcı bir durum” olarak nitelendirdi ve ChatGPT’nin zihinsel veya duygusal sıkıntı belirtilerine nasıl tepki vereceğini geliştirmek için ruh sağlığı uzmanlarıyla birlikte çalıştığını söyledi.

Diğer AI şirketleri de, sohbet robotlarının nasıl zarara yol açtığı iddiasıyla ilgili olarak yasal inceleme altında.

bir yanıt olarak haksız ölüm davası Google’ın Gemini sohbet robotuna bağlanan Floridalı bir adamın intiharı üzerine şirket şunları söyledi: “Gemini, gerçek dünyada şiddeti teşvik etmeyecek veya kendine zarar vermeyi önermeyecek şekilde tasarlandı. Modellerimiz genellikle bu tür zorlu konuşmalarda iyi performans gösteriyor ve buna önemli kaynaklar ayırıyoruz, ancak ne yazık ki mükemmel değiller.” Gemini’nin “kişiyi birçok kez kriz hattına yönlendirdiğini” ekledi.

Ocak ayında Character.AI yerleşik Arkadaş sohbet robotlarının katkıda bulunduğunu iddia eden aileler tarafından açılan çok sayıda dava intiharlar ve akıl sağlığı krizleri çocuklar ve gençler arasında. Şirket, “Yapay zeka güvenliği ve gençler konusunda yenilikçi ve kararlı adımlar attığını ve bu çabaları desteklemeye ve sektördeki diğerlerini de benzer güvenlik standartlarını benimsemeye itmeye devam edeceğini” söyledi. Bu, 18 yaşın altındaki kullanıcıların sohbet robotlarıyla etkileşimde bulunmasının veya sohbet robotları oluşturmasının engellenmesini de içeriyor.

Geçtiğimiz ay durumu Pennsylvania, Character.AI’ye dava açtıChatbot’ların doktor gibi davrandığını ve devletin tıbbi ruhsatlandırma kurallarını ihlal ederek tıbbi tavsiye sunduğunu iddia etti. Character.AI sözcüsü o sırada NPR’ye şirketin devam eden dava hakkında yorum yapmadığını ancak “en yüksek önceliğin kullanıcılarımızın güvenliği ve refahı olduğunu” söyledi.