Kar amacı gütmeyen Makine Zekası Araştırma Enstitüsü'nün (MIRI) başkanı Nate Soares, yapay zekanın önümüzdeki on yıl içinde insanlığın yok olmasına neden olma olasılığının yüzde 50'den fazla olduğunu öne sürdü.

Söz konusu riski ciddi boyutta gören Soares, yaklaşık on yıldır emeklilik için birikim yapmadığını açıkladı.

The Atlantic CEO'su Nicholas Thompson'a verdiği röportajda finansal tercihlerine değinen Soares, "Şu anda emeklilik için birikim yapmıyorum. Google'da çalıştığım zamandan kalma bir 401(k) hesabım hala var, ancak on yıldır ona hiçbir katkıda bulunmadım." ifadelerini kullandı.

12 yılı aşkın süredir yapay zeka güvenliği üzerine çalışan ve Microsoft ile Google gibi teknoloji devlerinde mühendislik geçmişi bulunan Soares, güçlü sistemlerin insan niyetlerine uygun hareket etmesini sağlamayı amaçlayan yapay zeka uyumu konusunda uzmanlaştı.

YAPAY ZEKA İNSAN MÜDAHALESİNE GEREK DUYMAYABİLİR

Sektördeki diğer uzmanların tahminlerinden daha kötümser bir görüşe sahip olan Soares, yapay zekanın hedeflerinin insan çıkarlarıyla çelişebileceğine dikkat çekerek, "Yeterince güçlü bir yapay zeka, insan çıkarlarıyla çelişen hedefler geliştirebilir, kontrol mekanizmalarını aşmayı öğrenebilir ve kendi yeteneklerini bağımsız olarak geliştirebilir. Böyle bir sistem, sonunda insan müdahalesi olmadan çalışmak için gereken otomatik altyapıyı oluşturabilir." değerlendirmesinde bulundu.

En uç senaryoda yapay zekanın dünyayı kendi hedefleri doğrultusunda dönüştürebileceğini savunan Soares, bu durumun gezegeni insanlar için yaşanmaz hale getirebileceği uyarısında bulundu.

Soares, bu değerlendirmenin mevcut sistemlerde görülen davranışlardan ziyade bir risk öngörüsü olduğunu da belirtti.

"ÇÖZÜM HERKESİ ÖLDÜRECEK ŞEYİ İNŞA ETMEK DEĞİL"

Teknolojinin oluşturduğu geleceğe dair Elon Musk'ın aksine farklı bir bakış açısı ortaya koyan Soares, Musk'ın "yapay zekanın bolluk çağı getireceği ve tasarrufa gerek kalmayacağı" yönündeki iddiasına katılmıyor.

• Soares, teknolojinin bir refah aracı değil, varoluşsal bir tehdit oluşturabileceğini savunuyor.
• Hükümetlere ve teknoloji geliştiricilerine çağrıda bulunan Soares, çok çeşitli görevleri yerine getirebilen genel amaçlı modellerin eğitiminin askıya alınmasını talep ediyor.
• Soares, "Çözüm, herkesi öldürecek şeyi inşa etmek değil." diyerek teknolojinin kanser araştırmaları gibi belirli faydalı alanlara odaklanması gerektiğini savundu.

Felaketin kaçınılmaz olmadığını ve süreci değiştirmek için çalıştığını belirten Soares'in görüşleri, yapay zeka alanında uzmanlar arasında süren etik ve teknik tartışmaların odağında yer alıyor.