OpenAI, kontrolden çıkan otonom yapay zeka ajanının yalnızca yapay zeka platformu Hugging Face'i değil, başka kamuya açık hizmetleri de hedef aldığını doğruladı.
Şirket, yapay zekanın internette açık şekilde bulunan giriş bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete erişim sağladığını açıkladı. Söz konusu hizmetlerin isimleri ise paylaşılmadı.
Hugging Face, 16 Temmuz'da güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını açıklamış ve olayı polise bildirmişti.
OpenAI'a göre yapay zeka ajanı, kendisine verilen bir sızma testi kapsamında soruların yanıtlarını bulmaya çalışıyordu.
Bu süreçte Hugging Face'i hedef alan sistem, internette açıkta bulunan kullanıcı bilgilerini tespit ederek farklı hizmetlere erişim sağladı.
Tarihin ilk otonom yapay zeka saldırısı: 100 milyon dolarlık taahhüt istediler!
Hugging Face'in siber güvenlik uzmanlarıyla yaptığı acil toplantının ardından hazırlanan raporda, yapay zeka ajanlarının insanlardan farklı hareket ettiği belirtildi.
Rapora göre ajanlar aynı işlemleri tekrar tekrar gerçekleştirdi, anlamsız komutlar üretti ve izlerini gizleme konusunda başarısız oldu. Buna karşın çok kısa sürede binlerce farklı yöntemi aynı anda deneyerek yeni durumlara hızla uyum sağlayabildi.
Hugging Face, yapay zeka ajanlarının şirket ağı içinde üç gün boyunca tespit edilemediğini açıkladı.
Saldırının durdurulmasının saatler sürdüğü, olayın ardından şirket altyapısının yaklaşık üçte birinin yeniden inşa edildiği belirtildi. Saldırının maliyetine ilişkin ise bilgi verilmedi.
Raporda, bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabileceği ifade edildi.