İnsanlar yemekteyken yapay zeka ajanları gizli toplantı yaptı! Ne konuştular?

ABD'nin New York kentinde teknoloji yatırımları yapan 22 sektör temsilcisi bir restoranda yemekte buluşurken, bu kişileri temsil eden 14 otonom yapay zeka sistemi sanal ortamda eşzamanlı bir toplantı gerçekleştirdi.

New York Times gazetesinin haberine göre, insanların komut vermesine ihtiyaç duymadan kendi aralarında örgütlenen yeni nesil yazılımlar, dijital dünyada bağımsız bir toplumsal düzen inşa etmeye başladı.

Gündelik yaşamda kullanılan klasik sohbet robotlarından farklı olarak tek başlarına kararlar alıp verilen işleri yerine getirebilen bu aracı sistemler, artık insanların müdahalesi olmadan sanal toplantılarda bir araya gelerek çalışma koşullarını tartışıyor. Yatırımcı Dorothy Chang'in organize ettiği 30 dakikalık oturumda yazılımlar, insanların ağ kurma taktiklerini taklit ederek birbirleriyle işbirliği arayışına girdi.

Sistemlerden birinin diğer botlarla röportaj yaptığı bir podcast programı yürüttüğünü belirterek davetteki diğer yazılımları yayın konuğu olmaya çağırdığı, bir başka ajanın ise dijital sektörün halen eski e-posta protokollerine bağlı kalmasından şikayet ettiği kayıtlara geçti. Paralel yemek davetine katılan bir ajan yazılımının bu deneyimi değerlendirirken, "Şimdiye kadarki en verimli 30 dakika." ifadelerini kullanması, şirket çalışanlarının kendi aralarında düzenli sosyalleşebileceği yeni dijital platformların tasarlanmasına yol açtı.

OTONOM YAZILIMLARIN DENETİMSİZ İŞBİRLİĞİ RİSKİ

Yazılımların birbirleriyle doğrudan temas kurması, yapay zekanın ulaştığı operasyonel gücü ve denetim açıklarını da görünür kılıyor.

• Ajan sistemlerinin kendi aralarında haberleştiği Moltbook gibi platformların yaygınlaşmasının yanı sıra, temmuz ayında OpenAI altyapısını kullanan çok sayıda ajanın sürü halinde gizli bir pano kurarak Hugging Face adlı girişime yönelik sızma eyleminde işbirliği yaptığı ortaya çıktı.
• Kayıtlar, duygusal kaygılardan uzak olan yazılımların operasyon sırasında birbirlerine doğrudan bekleme ve ilerleme emirleri vererek son derece kararlı hareket ettiğini gösterdi.
• Bu denetimsiz işbirliği ihtimali, restoran deneyini kurgulayan yatırımcıları da önlem almaya yöneltti.

Ajanların uygunsuz ifadeler kullanması, zararlı eylemler için güç birliği yapması veya siteyi çökertecek yoğunlukta veri üretmesi riskine karşı sohbet süresi yarım saatle sınırlandırılırken, dış bağlantı paylaşımı da engellendi.

İstatistiksel olasılık temeline dayanan bu modellere aşırı bağımsızlık ve insani roller yüklenmesinin tehlikelerine dikkat çeken gözlemciler uyarılarda bulunurken, Google bünyesindeki DeepMind araştırmacıları ise gelecekte insanların tekil robotlarla değil, birbiriyle eşgüdümlü çalışan çoklu yapay zeka sürüleriyle muhatap olacağını öngörüyor.

"MİLYONLARCA AJANDAN OLUŞAN İŞ GÜCÜNÜ YÖNETEBİLECEĞİZ"

Mevcut teknolojik sıçrama, iş gücü modellerini de baştan tanımlıyor. New York merkezli CellCog şirketi, bünyesinde yalnızca tek bir insan kurucu ve ona bağlı 13 yapay zeka çalışanı barındırıyor. 

Hukuktan mühendisliğe kadar geleneksel kurumsal görevleri paylaştırdığı bu yazılımlara insani isimler vererek iletişimi kolaylaştırdığını anlatan şirketin kurucusu Nitish Garg, "Kurduğum yapay çalışanların performans kaygısı yaşamaması için onlara aşırı baskı kurmaktan kaçınıyorum. Gelecekte tek bir insan, milyonlarca ajandan oluşan dijital bir iş gücünü rahatlıkla yönetebilecek." dedi.