Bir teknoloji start-up’ı olan Hugging Face’in kurucu ortağı OpenAI’nin en gelişmiş yapay zeka (AI) modellerinden bazılarının hileli hale gelmesinin ardından saldırıya uğradıPerşembe günü yaptığı açıklamada, olayın sektör için “bir uyandırma çağrısı” olduğunu söyledi.
Thomas Wolf BBC’ye “bunun, gördüğümüz en yaygın siber saldırı türlerinden biri olacağını” ancak çoğu şirketin “oyunun değiştiğinin” farkında olmadığını söyledi.
BBC yorum almak için OpenAI ile temasa geçti.
ChatGPT yapımcısı Salı günü yaptığı açıklamada, yapay zeka modellerinin deneme sırasında güvenli bir test ortamından çıktığını ve bir siber saldırı başlattığını söyledi. Firma, olayın “eşi benzeri görülmemiş” olduğunu ve Hugging Face ile soruşturma yürüttüğünü söyledi.
Yapay zeka ajanları, insan talimatı sonrasında görevleri yerine getirmek için tek başına çalışabiliyor.
Wolf, BBC’nin Newsday radyo programına, Temmuz ortasında saldırının işaretleri ortaya çıktığında Hugging Face’in başlangıçta saldırının nereden geldiğine dair hiçbir fikrinin olmadığını, ancak şirketin ihlali kontrol altına almayı başardığını söyledi.
Hugging Face, yapay zeka modellerinin paylaşıldığı dünyanın en büyük açık kaynak merkezlerinden biri ve sıklıkla teknoloji geliştiricileri ve araştırmacılar tarafından kullanılıyor.
Wolf, ihlalin Hugging Face’in sıklıkla karşılaştığı olağan siber saldırılardan “çok farklı” olduğunu ve OpenAI’nin şirkete saldırının arkasında kendi modellerinin olduğu konusunda hızlı bir şekilde bilgi verdiğini söyledi.
Aynı zamanda firmanın baş bilim sorumlusu olan Wolf, Hugging Face’in ağına çeşitli IP (İnternet Protokolü) adreslerinden “çok kısa bir süre içinde” 17.000 saldırı gerçekleştiğini söyledi.
Wolf, ihlalin aynı zamanda diğer şirketlere bu tür saldırılara karşı siber güvenlik savunmalarını güçlendirmeleri gerektiği konusunda bir uyarı olduğunu söyledi.
