Kar amacı gütmeyen Makine Zekası Araştırma Enstitüsü'nün (MIRI) başkanı Nate Soares, yapay zekanın önümüzdeki on yıl içinde insanlığın yok olmasına neden olma olasılığının yüzde 50'den fazla olduğunu öne sürdü.
Söz konusu riski ciddi boyutta gören Soares, yaklaşık on yıldır emeklilik için birikim yapmadığını açıkladı.
The Atlantic CEO'su Nicholas Thompson'a verdiği röportajda finansal tercihlerine değinen Soares, "Şu anda emeklilik için birikim yapmıyorum. Google'da çalıştığım zamandan kalma bir 401(k) hesabım hala var, ancak on yıldır ona hiçbir katkıda bulunmadım." ifadelerini kullandı.
12 yılı aşkın süredir yapay zeka güvenliği üzerine çalışan ve Microsoft ile Google gibi teknoloji devlerinde mühendislik geçmişi bulunan Soares, güçlü sistemlerin insan niyetlerine uygun hareket etmesini sağlamayı amaçlayan yapay zeka uyumu konusunda uzmanlaştı.
Sektördeki diğer uzmanların tahminlerinden daha kötümser bir görüşe sahip olan Soares, yapay zekanın hedeflerinin insan çıkarlarıyla çelişebileceğine dikkat çekerek, "Yeterince güçlü bir yapay zeka, insan çıkarlarıyla çelişen hedefler geliştirebilir, kontrol mekanizmalarını aşmayı öğrenebilir ve kendi yeteneklerini bağımsız olarak geliştirebilir. Böyle bir sistem, sonunda insan müdahalesi olmadan çalışmak için gereken otomatik altyapıyı oluşturabilir." değerlendirmesinde bulundu.
En uç senaryoda yapay zekanın dünyayı kendi hedefleri doğrultusunda dönüştürebileceğini savunan Soares, bu durumun gezegeni insanlar için yaşanmaz hale getirebileceği uyarısında bulundu.
Soares, bu değerlendirmenin mevcut sistemlerde görülen davranışlardan ziyade bir risk öngörüsü olduğunu da belirtti.
Teknolojinin oluşturduğu geleceğe dair Elon Musk'ın aksine farklı bir bakış açısı ortaya koyan Soares, Musk'ın "yapay zekanın bolluk çağı getireceği ve tasarrufa gerek kalmayacağı" yönündeki iddiasına katılmıyor.
Felaketin kaçınılmaz olmadığını ve süreci değiştirmek için çalıştığını belirten Soares'in görüşleri, yapay zeka alanında uzmanlar arasında süren etik ve teknik tartışmaların odağında yer alıyor.