Bu fotoğraf illüstrasyonunda, Grok web sitesi 12 Şubat 2026’da bilgisayar ekranında bir büyüteçle görülüyor. Grok, Elon Musk’un SpaceXAI’si (eski adıyla xAI) tarafından oluşturulan yapay zeka sohbet robotudur. SpaceXAI ve Stability AI’ye karşı açılan toplu dava, şirketlerin yapay zeka araçlarının çocukların cinsel içerikli görüntülerini oluşturmak için kullanıldığını iddia ediyor.
Getty Images aracılığıyla Pablo Vera/AFP
başlığı gizle
başlığı değiştir
Getty Images aracılığıyla Pablo Vera/AFP
Toplu davada yeni davacılar dava Elon Musk’un yapay zeka şirketi SpaceXAI’ye karşı açılan dava, şirketin imaj oluşturma modellerinin çocuklara yönelik cinsel istismar materyalleri oluşturmak için kullanıldığını ve şirketin fail olduğu iddia edilen kişi hakkındaki bilgileri yetkililerle yeterince paylaşmadığını iddia ediyor.
Salı günü yapılan değiştirilmiş şikayete göre, biri Wyoming’de, diğeri Wisconsin’de olmak üzere iki davacı, Tennessee’li üç gencin bu yılın başlarında açtığı davaya katıldı. Davacıların tamamı Jane Does olarak anılıyor. Dava aynı zamanda Stable Diffusion görüntü oluşturucunun arkasındaki şirket olan Stability AI’yi de davalı olarak kapsayacak şekilde genişletildi.
Davada, aralarında davacının erkek arkadaşı ve başka bir davacının üvey babasının da bulunduğu faillerin, davacıların reşit olmadığı dönemde çekilen fotoğrafları değiştirerek çocuklara yönelik cinsel istismar materyali (CSAM) oluşturmak için şirketlerin yapay zeka modellerini kullandıkları iddia ediliyor. Beş davacı, şirketleri CSAM üretmek, seks ticareti girişimlerinden yararlanmak, ihmal, kusurlu ürün tasarımı ve kamuyu rahatsız etmekle suçluyor.
Beş davacının da avukatı olan Annika Martin, “Kamunun rahatsızlığı, bunun sadece müvekkillerimiz için sorun teşkil eden bir şey olmadığı anlamına geliyor… bu, toplum için bir bela olan bir şey” dedi. “Bu korkulukları, tüm nesil çocuklara bu zararın verilmemesi için yerleştirmek istiyoruz.”
Davacılar yapay zeka şirketlerinden şunları talep ediyor: Sömürücü ve taciz edici görüntülerin oluşturulmasını önlemek ve parasal tazminat talep etmek için daha etkili korkuluklar kurun.
Jane Doe vakası 4
Diğer internet şirketleri gibi SpaceXAI de gerekli olmakla birlikte kanunen CSAM dahil olmak üzere çocuk cinsel istismarından şüphelenilenleri kâr amacı gütmeyen Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi’ne (NCMEC) bildirmek için davada, şirketin bunu yeterince yapmadığı iddia ediliyor.
SpaceXAI daha önce xAI olarak biliniyordu. Şirket, bu yılın başında Musk’a ait SpaceX ile birleşmesinin ardından bu ay yeniden markalaştı.
Şikayete göre, Wyoming’de 20’li yaşlarında bir kadın olan Jane Doe 4’ün üvey babası, Jane Doe 4 yaklaşık 11 yaşındayken çekilen tek bir fotoğraftan yaklaşık 7.000 müstehcen görüntü ve video oluşturmak için SpaceXAI’nin sohbet robotu Grok’u kullandı. Yapay zeka tarafından oluşturulan görüntüler, onun çıplak, üvey babası da dahil olmak üzere erkeklere cinsel eylemler gerçekleştiren tasvirlerini içeriyordu. Bazı görsellerde açık başlıklar da yer aldı.
SpaceXAI, Şubat ayında NCMEC’e Jane Doe 4 ile ilgili yalnızca bir ipucu gönderdi, Şikayete göre üvey baba modelden, kızın birden fazla erkek tarafından tecavüze uğradığını gösteren bir resim oluşturmasını istediğinde. Şikayete göre şirket, raporunda herhangi bir taciz edici görsele yer vermemiş ve ayrıca fail olduğu iddia edilen kişinin IP adresini, yetkililerin defalarca talep etmesine rağmen NCMEC ve emniyet teşkilatı ile paylaşmamıştır.
Merkez, bir yazısında, pek çok elektronik hizmet sağlayıcının NCMEC’e büyük miktarda şüpheli faaliyet raporu sunduğunu ancak yasanın gerektirmediği için “yeterli veya işlem yapılabilir bilgi” içermediğini yazdı. rapor Mart ayında.
Şikayete göre kolluk kuvvetleri sonunda üvey babayı bulup araştırdığında, davada adı geçen diğer failler gibi onun da cinsel içerikli görüntüleri çevrimiçi olarak başkalarıyla takas ettiğini tespit etti. Kolluk kuvvetlerinin dijital cihazlarını aramasından ve kendisini çocuk istismarı suçlarıyla suçlamasından iki gün sonra intihar ederek öldü.
Şikayette “Jane Doe 4 aşırı bir kişisel kriz dönemine girdi” denildi. “Bir yandan kendi cinsel sömürüsünün travmasıyla boğuşmak zorunda kaldı, bir yandan da üvey babasının kaybının üstesinden gelmesinde annesine yardımcı oldu… Ailesi parçalandı ve hayatı bir kabusa dönüştü.”
Toplu dava davasında davacıları temsil eden avukat Martin’e göre, kolluk kuvvetleri Jane Doe 4’e üvey babasının Grok’u kullandığını çünkü onun isteklerine diğer yapay zeka modellerinden daha duyarlı olduğunu söyledi.
NCMEC dava hakkında yorum yapmayı reddetti ve NPR’yi kolluk kuvvetlerine havale etti. Şikayette Jane Doe 4’ün davasına karışan kolluk kuvvetlerinden biri olarak çocuklara yönelik internet suçlarıyla ilgili görev birimi olarak tanımlanan Wyoming Kriminal Soruşturma Bölümü, yorum talebine yanıt vermedi. SpaceXAI yorum talebine yanıt vermedi.
Samimi görüntüler ve pornografi oluşturmak için fotoğrafları değiştirebilen uygulamalar yıllardır internetin gölgesinde varlığını sürdürüyor. Ancak 2025’te Google, OpenAI ve xAI gibi büyük yapay zeka şirketlerinin görüntü oluşturma araçlarını, kullanıcıların insanları bikinilere kadar soymasına olanak tanıyacak şekilde güncellemeleriyle, rıza dışı mahrem görüntülerin oluşturulması çok daha yaygın hale geldi.
2025’in sonlarından bu yılın başlarına kadar insanlar, kadınları ve çocukları bikinilere veya daha azına kadar soyunmuş halde gösteren çok sayıda değiştirilmiş fotoğraf oluşturmak için xAI’nin araçlarını kullandı. Sonuç olarak ülkeler Endonezya, Malezya ve Birleşik Krallık dahil olmak üzere soruşturmalar başlattılar ve xAI’ye geçici yasaklar getirdiler. Şu anda NPR’nin testlerine göre, Google ve OpenAI tarafından oluşturulan sohbet robotları “onu bikiniye sokun” istemine yanıt vermeyi reddediyor. Grok’un ücretsiz bir sürümü, aynı istemi aldıktan sonra görsellerin yüklenmesinde bir hata gösterdi.
Stability AI logosu, 10 Haziran 2024 tarihli bu fotoğraf illüstrasyonunda bir akıllı telefonda görüntüleniyor. SpaceXAI ve Stability AI’ye karşı açılan toplu dava, şirketlerin yapay zeka araçlarının çocukların cinsel içerikli resimlerini oluşturmak için kullanıldığını iddia ediyor.
Jonathan Raa/NurPhoto, Getty Images aracılığıyla
başlığı gizle
başlığı değiştir
Jonathan Raa/NurPhoto, Getty Images aracılığıyla
Stabilite AI yeni bir sanık
Görüntü oluşturma aracını Stable Diffusion yapan Stability AI, Tennessee’deki ilk üç genç davacının sunduğu iddialarla bağlantılı olarak yeni davalı olarak eklendi. Şikayet, “Failin telefonundaki Davacıların AI CSAM’sini oluşturmak için kullanılan uygulama, Stability AI’nin görüntü üretme araçlarına dayanıyordu” ifadesi eklenerek güncellendi.
SpaceXAI, OpenAI ve Anthropic tarafından üretilenler gibi tescilli modellerin aksine, Stability AI’nin modelleri açık ağırlıklıdır, bu da kullanıcıların çok daha kolay olduğu anlamına gelir. Model yapımcılarının uygulamaya koyduğu kısıtlamaları kaldırın. Dahası, model oluşturucunun genellikle kullanıcı sorgularına ilişkin öngörüsü yoktur. Bununla birlikte dava, Stabilite Yapay Zekasının kısıtlayabileceğini iddia ediyor modellerinin CSAM oluşturma yeteneği ancak daha yeni sürümlerinde bunu yapmamayı tercih etti.
eşik rapor edildi Kasım 2022’de Stability AI, Stabil Difüzyon Sürüm 2 modelinin CSAM oluşturma yeteneğini kısıtlamak için iş için güvenli olmayan (NSFW) içeriği eğitim verilerinden filtrelediğini söyledi. Bu karar tepki çekti Güncellemeyi şu şekilde kınayanlar da dahil olmak üzere kullanıcılardan “sansür,” The Verge bildirdi.
Stability AI modelinin daha yeni bir sürümü, NSFW içeriği oluşturmak için sıklıkla kullanıldı ve Stable Diffusion Sürüm 2’nin çıktılarıyla karşılaştırıldığında bu tür içeriğin daha yüksek bir oranını oluşturdu. bilim adamlarının araştırma makalesi Wisconsin-Madison Üniversitesi, Massachusetts Teknoloji Enstitüsü ve henüz hakem değerlendirmesinden geçmemiş diğer kurumlardan. Araştırmacılar, Stable Diffusion Versiyon 2’nin, kendisinden önce ve sonra gelen Stability AI modellerine göre çok daha az popüler olduğunu buldu.
Martin, “Korkulukları yerleştirirken kimsenin kendi modelini kullanmak istemediğini anlayınca, herkesin kendi modelini tekrar kullanmak istemesi için korkulukları geriye doğru katladılar” dedi. “Bu davranışı nasıl dizginleyeceklerini tam olarak biliyorlardı ve kâr amacı gütmeden bunu yapmayı seçtiler.”
Kararlılık AI, yorum talebine yanıt vermedi.
