OpenAI CEO’su Sam Altman, Kanadalı bir topluluğun üyelerinden özür diledi. toplu atış ChatGPT hesabının işaretlenmemesi nedeniyle bu yılın başlarında gerçekleşti atıcı kolluk kuvvetlerine.
Altman bir mektupta “Topluluğunuzun katlandığı acı hayal edilemez” diye yazdı paylaşıldı Cuma günü Britanya Kolumbiyası Başbakanı David Eby tarafından sosyal medyada. “Son birkaç aydır seni sık sık düşünüyorum.”
Kuzeydoğu Britanya Kolumbiyası’ndaki Tumbler Ridge’deki küçük toplulukta 10 Şubat’ta yaşanan katliamda sekiz kişi öldürüldü. Yetkililer, 18 yaşındaki Jesse Van Rootselaar’ın Tumbler Ridge Ortaokuluna ateş açması sonucu altı kişinin ölümcül şekilde vurulduğunu ve saldırganın annesi ile 11 yaşındaki erkek kardeşinin yakındaki bir evde öldürüldüğünü söyledi. Yetkililer, Van Rootselaar’ın kendi kendine verdiği kurşun yarası nedeniyle öldüğünü söyledi.
Altman Perşembe günü yazdığı mektupta Van Rootselaar’ın ChatGPT hesabının Haziran 2025’te, yani silahlı saldırıdan yaklaşık sekiz ay önce yasaklandığını yazdı.
Altman, “Haziran ayında yasaklanan hesap konusunda kolluk kuvvetlerine uyarıda bulunmadığımız için çok üzgünüm” dedi.
Şubat ayında OpenAI, CBS News’e Van Rootselaar’ın hesabının geçen yıl otomatik kötüye kullanım tespit araçları ve ChatGPT’nin şiddet içeren faaliyetler için olası kötüye kullanımlarını belirleyen insan araştırmacılar tarafından işaretlendiğini söyledi. OpenAI, hesabın kullanım politikalarını ihlal ettiği için yasaklandığını söyledi.
OpenAI, şirketin hesabı kolluk kuvvetlerine işaretleyip işaretlememe konusunda tarttığını ancak o sırada hesabın başkalarına ciddi fiziksel zarar verme konusunda yakın ve inandırıcı bir risk oluşturmadığına ve yönlendirme eşiğini karşılamadığına karar verdiğini söyledi.
OpenAI, saldırının ardından Şubat ayında CBS News’e yaptığı açıklamada, “Düşüncelerimiz Tumbler Ridge trajedisinden etkilenen herkesle birlikte” dedi. “Birey ve ChatGPT kullanımı hakkında bilgi sağlamak için Kanada Kraliyet Atlı Polisi’ne proaktif bir şekilde ulaştık ve soruşturmalarını desteklemeye devam edeceğiz.”
OpenAI, ChatGPT’nin gerçek dünyadaki zararları caydırmak için eğitildiğini ve yasa dışı bir niyet tespit ettiğinde yardım etmeyi reddetmesi talimatının verildiğini söylüyor. Şirkete göre, başkalarına zarar verme planlarını belirten kullanıcılar, bir vakanın yakın bir fiziksel zarar tehdidi oluşturup oluşturmadığını belirleyen gerçek incelemecilere işaretleniyor ve kolluk kuvvetlerine havale edilmesi gerekiyor.
Altman mektubunda OpenAI’nin “böyle bir şeyin bir daha asla yaşanmamasını sağlamaya yardımcı olmak için” önleyici çabalara odaklanmaya devam edeceğini yazdı.
Altman, “Tüm topluluğa en derin başsağlığı dileklerimi iletmek istiyorum” dedi. “Hiç kimse böyle bir trajediye katlanmak zorunda kalmamalı.”
Bu haftanın başında Florida Başsavcısı James Uthmeier duyuruldu ChatGPT ile Florida Eyalet Üniversitesi öğrencisi arasındaki mesajların incelenmesinin ardından OpenAI’ye yönelik cezai soruşturma Nisan 2025’teki kampüs saldırısında suçlanan iki kişiyi öldürdü ve birkaç kişiyi de yaraladı.
Uthmeier, ekibinin ChatGPT’nin saldırgan olduğu iddia edilen kişiye “önemli tavsiyeler” sunduğunu belirlediğini söyledi. Ofisi, OpenAI’ye, şirketin olası suçları kolluk kuvvetlerine bildirme protokollerinin ve kullanıcı tehditlerini ele alma protokollerinin kayıtlarını talep eden mahkeme celpleri yayınlıyor.
Florida’daki silahlı saldırıyla ilgili olarak OpenAI sözcüsü, Salı günü CBS News’e yaptığı açıklamada, “olayın öğrenilmesinin ardından” şüpheliyle ilişkili olduğuna inanılan bir ChatGPT hesabının tespit edildiğini ve bu bilginin kolluk kuvvetleriyle proaktif olarak paylaşıldığını söyledi.
