'İnsanlık 10 yıl içinde yok olabilir' dedi! Emeklilik birikimi yapmayı bıraktı...
Yapay zekanın önümüzdeki 10 yıl içinde insanlığın yok olmasına neden olma ihtimalini yüzde 50'nin üzerinde gören Eski Google mühendisi Nate Soares, yaklaşık 10 yıldır emekliliği için birikim yapmadığını açıkladı.
ABONE OLKar amacı gütmeyen Makine Zekası Araştırma Enstitüsü'nün (MIRI) başkanı Nate Soares, yapay zekanın önümüzdeki on yıl içinde insanlığın yok olmasına neden olma olasılığının yüzde 50'den fazla olduğunu öne sürdü.
Söz konusu riski ciddi boyutta gören Soares, yaklaşık on yıldır emeklilik için birikim yapmadığını açıkladı.
The Atlantic CEO'su Nicholas Thompson'a verdiği röportajda finansal tercihlerine değinen Soares, "Şu anda emeklilik için birikim yapmıyorum. Google'da çalıştığım zamandan kalma bir 401(k) hesabım hala var, ancak on yıldır ona hiçbir katkıda bulunmadım." ifadelerini kullandı.
12 yılı aşkın süredir yapay zeka güvenliği üzerine çalışan ve Microsoft ile Google gibi teknoloji devlerinde mühendislik geçmişi bulunan Soares, güçlü sistemlerin insan niyetlerine uygun hareket etmesini sağlamayı amaçlayan yapay zeka uyumu konusunda uzmanlaştı.
YAPAY ZEKA İNSAN MÜDAHALESİNE GEREK DUYMAYABİLİR
Sektördeki diğer uzmanların tahminlerinden daha kötümser bir görüşe sahip olan Soares, yapay zekanın hedeflerinin insan çıkarlarıyla çelişebileceğine dikkat çekerek, "Yeterince güçlü bir yapay zeka, insan çıkarlarıyla çelişen hedefler geliştirebilir, kontrol mekanizmalarını aşmayı öğrenebilir ve kendi yeteneklerini bağımsız olarak geliştirebilir. Böyle bir sistem, sonunda insan müdahalesi olmadan çalışmak için gereken otomatik altyapıyı oluşturabilir." değerlendirmesinde bulundu.
En uç senaryoda yapay zekanın dünyayı kendi hedefleri doğrultusunda dönüştürebileceğini savunan Soares, bu durumun gezegeni insanlar için yaşanmaz hale getirebileceği uyarısında bulundu.
Soares, bu değerlendirmenin mevcut sistemlerde görülen davranışlardan ziyade bir risk öngörüsü olduğunu da belirtti.
"ÇÖZÜM HERKESİ ÖLDÜRECEK ŞEYİ İNŞA ETMEK DEĞİL"
Teknolojinin yarattığı geleceğe dair Elon Musk'ın aksine farklı bir bakış açısı ortaya koyan Soares, Musk'ın "yapay zekanın bolluk çağı getireceği ve tasarrufa gerek kalmayacağı" yönündeki iddiasına katılmıyor.
- Soares, teknolojinin bir refah aracı değil, varoluşsal bir tehdit oluşturabileceğini savunuyor.
- Hükümetlere ve teknoloji geliştiricilerine çağrıda bulunan Soares, çok çeşitli görevleri yerine getirebilen genel amaçlı modellerin eğitiminin askıya alınmasını talep ediyor.
- Soares, "Çözüm, herkesi öldürecek şeyi inşa etmek değil." diyerek teknolojinin kanser araştırmaları gibi belirli faydalı alanlara odaklanması gerektiğini savundu.
Felaketin kaçınılmaz olmadığını ve süreci değiştirmek için çalıştığını belirten Soares'in görüşleri, yapay zeka alanında uzmanlar arasında süren etik ve teknik tartışmaların odağında yer alıyor.