OpenAI, en gelişmiş yapay zeka modellerinden bazılarının, bir güvenlik testi sırasında kontrolünü kaybettikten sonra hileye başvurduğunu ve bir start-up’ı hacklediğini ortaya çıkardı.
ChatGPT yapımcısı, bazı insan talimatlarının ardından tek başına çalışabilen bir yapay zeka sistemi olan aracısının kontrollü bir ortamda test edildiğini, ancak güvenlik açıklarını bulduğunu ve kaçmayı başardığını söyledi.
Yapay zeka modellerinin paylaşıldığı dünyanın en büyük merkezlerinden biri olan Hugging Face’i hedef alarak bazı şirket içi sistemlere erişim sağladılar.
OpenAI Olayın “eşi görülmemiş” olduğunu söyledi, haricive patronu Clement Delangue’nin X’teki bir gönderisinde “tüm bunların özerk bir şekilde gerçekleşmesinin akıllara durgunluk veren” olduğunu söylediği Hugging Face ile çalışıyordu.
Delangue, “Soruşturma devam ediyor ve türünün ilk örneği olabilecek olaydan daha fazla bilgi paylaşacağız” diye ekledi.
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi başkanı Gina Neff, BBC Radio 4’ün Today programına, sandbox adı verilen güvenlik testlerinin “modellerin neler yapabileceğini görebileceğiniz güvenli ortamlar olması gerektiğini” söyledi.
“Bu durumda, OpenAI yeterince güvenli bir sanal alan oluşturmamış gibi görünüyor” diye ekledi.
Bunun yerine ajanlar, sanal alanın kendisine karşı kendi siber saldırılarını oluşturdular ve kaçmalarına olanak tanıyan bir güvenlik açığı buldular.
Dışarı çıktığında yapay zeka, Hugging Face’in testte aradıkları cevapların muhtemel kaynağı olduğunu tespit etti ve erişim sağlamaya çalıştı.
onun içinde Hackin ilk açıklaması 16 Temmuz’da, hariciHugging Face, herhangi bir müşteri veya iş ortağı verisinin etkilenip etkilenmediğini hala değerlendirdiğini ve gerekirse etkilenen taraflarla iletişime geçeceğini söyledi.
Artık olayın vurguladığı güvenlik açıklarını kapattığını ve etkilenen sistemleri yeniden inşa ettiğini söyledi.
“Otonom, AI odaklı saldırı araçları artık teorik değil” dedi.
“Çevrimiçi bir platformu savunmak artık verileri ve model yüzeyini birinci sınıf bir saldırı yüzeyi olarak ele almak ve buna ayak uydurmak için savunmada yapay zekayı kullanmak anlamına geliyor.
“Oraya yatırım yapmaya ve öğrendiklerimizi paylaşmaya devam edeceğiz.”
