Ve bu münferit bir olay değil.
2021’de yerel yetkililer, Henan eyaletinde 139 ölümü gizlemek veya eksik bildirmekle suçlanarak tutuklandı.
Bunun gibi olaylar, kötü aktörlerin sahte içerik yaymasını çok daha kolaylaştıran bir güven boşluğuna yol açtı.
Ancak polis, acil durumlarda insanlardan akredite kaynaklara güvenmeleri konusunda ısrar ediyor.
Ningbo Kamu Güvenliği Bürosundan Gao Kai, “Bilinmeyen bir kaynaktan gelen felaketle ilgili bilgilerle karşılaştığınızda, ona şüpheyle yaklaşın ve resmi duyurulara güvenin” dedi.
Ayrıca, “İnternet kanunsuz bir bölge değildir. Kamu güvenliği yetkilileri yasa dışı çevrimiçi faaliyetleri çökertme çabalarını yoğunlaştırmaya devam edecektir” diyerek, yanlış bilgi yaratanların yakalanabileceği konusunda kamuoyuna güvence vermeye çalıştı.
“Sosyal medyayı, özellikle de kısa video platformlarını yakından izlemek için özel bir görev gücü oluşturduk. Bu vakaları hızlı bir şekilde araştırıp ele alacaklar ve çok sıkı bir şekilde müdahale edecekler.”
Yanlış bilginin etkileri yeterince ciddiyse, ceza para cezasından yedi yıla kadar hapis cezasına kadar değişebilir.
23 Temmuz’da Çin Siber Uzay İdaresi ayrıca sel ve diğer felaketlerle ilgili sahte internet içeriğine ülke çapında bir baskı uygulayacağını duyurdu ve yerel şubelerine uydurma verileri, kötü niyetli düzenlemeleri, sahnelenen sahneleri, yanlış atfedilen tarihi olayları ve yetkililerin kimliğine bürünenleri yakalamaya odaklanmasını emretti. Ayrıca sosyal medya platformlarına yayınladıkları içeriklerin incelemesini güçlendirmeleri çağrısında bulundu.
Prof Gao, “cevabın kolluk kuvvetleriyle birleştirilmiş kamu eğitimi olduğuna” inanıyor ve “insanların cezalandırıldığı gerçek vakaların duyurulması ihtiyacı” olduğunu söylüyor.
“Yapay zeka tarafından oluşturulan sahte içeriğin neden olduğu zararın, sonuçta teknolojinin kendisi değil, insanların teknolojiyi nasıl kullanmayı seçtiklerinin bir sonucudur” diye ekledi ve mevcut yasaların bununla başa çıkmak için yeterli olduğunu da sözlerine ekledi.
Ancak diğerleri bu kadar emin değil. Profesör Chen, “Yapay zeka teknolojisi yasal çerçevelerden çok daha hızlı gelişmeye devam ediyor. Yeni hukuki sorular ortaya çıktıkça, yapay zekayla ilgili yanlış bilgiler ciddi bir sorun olmaya devam ediyor” dedi.
Şangay ve Washington merkezli avukat Peter Pang, dünya çapındaki avukatların bu konularla ilgili davaların sayısında bir patlama gördüğünü söyledi.
Yapay zeka uygulamaları oluşturan şirketlerin ve sahte videolar ve diğer materyalleri yayınlamak için kullanılan platformların, yanlış bilgi yaratan kişilerle birlikte yasal olarak sorumlu tutulması gerektiğine inanıyor.
BBC’ye şöyle konuştu: “İlk sırada platformlar yer alacak çünkü kolaylaştırıcı olanlar onlardır. Bunun ortadan kalkmasına izin verenler de onlardır.”
Sosyal medyadaki sahte bir paylaşımın yol açtığı paniğin ardından yayanın üzerinden geçen bir kişiye dair varsayımsal bir örnek kullandı.
“Videoyu oluşturan kişi ‘birine çarptın. Bu senin sorunun. Ben yapmadım’ diyebilir. Ama iyice düşünelim. İnsanların tepki vereceği temeli siz yarattınız. Eğer bu paniği siz yarattıysanız, ortaya çıkacak sonuçların sorumluluğunu da üstlenmeniz gerekir.”
Ve Profesör Xu, “Yapay zeka tarafından üretilen yanlış bilgilerin yalnızca hacminin değil, aynı zamanda yayılma hızının da artacağı” konusunda uyarıyor.
“İleriye baktığımızda, siyasi seçimler, halk sağlığıyla ilgili acil durumlar, silahlı çatışmalar, doğal afetler ve insanların geçimini etkileyen sorunların yapay zeka tarafından üretilen yanlış bilgiler açısından yüksek riskli alanlar haline gelmesi muhtemeldir.
“Yanlış bilginin viral hale gelmesini beklemek yerine, onu kontrol altına almaya çalışmalı, hükümetler ve platformlar artık önceden hazırlanmalı.”
