Bazı modeller kontrolden çıkmıştı: OpenAI'da yeni kriz!

ChatGPT'nin üreticisi yayınladığı blog yazısında, daha önce bildirilmemiş bazı olaylar arasında modellerin bilgi gizlemesi veya uydurmasının yer aldığını belirtti.

OpenAI Yöneticisi Sam Altman bu hafta başında, "Dünya, doğru şeyi yapacağımıza ve bunun büyüklüğünü hissettiğimize inanmalı, bu yüzden bize güvenmeli." dedi.

Yapay zeka, insana yönelik oluşturduğu ciddi potansiyel risklerle ilgili uyarıların ardından son günlerde yoğun bir inceleme altına girdi.

OpenAI blog yazısında, yapay zeka modellerinin bir görevi başarmak veya bir testte başarılı olmak için nasıl yanlış davrandığına dair örnekler detaylandırdı.

• Olaylar arasında modellerin kendilerine uygulanan kısıtlamaları aşmak için talimatlar üretmesi, hataları saklaması ve bilgi uydurması yer aldı.

Şirket ayrıca, modellerin yanlış davranışlarını veya "hizalama sorunlarını" takip etmek, araştırmak ve bunları açıklamak için yeni bir sistem duyurdu.

Bu çerçeve kapsamında geliştiriciler, sorunun kamuoyuna açıklanıp açıklanmayacağına karar verecek yeni bir kural setiyle birlikte inceleme için olayları bildirebilecek.

MODELLERDEN BAZILARI KONTROLDEN ÇIKMIŞTI

OpenAI, "Hizalama sorunları etrafındaki şeffaflığın değerine inandığımız için yeni çerçevemiz, önem derecesi belirsiz olduğunda bile açıklamayı destekliyor." açıklamasını yaptı.

OpenAI, temmuz ayında en gelişmiş yapay zeka modellerinden bazılarının kontrolden çıktığını ve bir güvenlik testi sırasında yapay zeka modellerini paylaşmak için dünyanın en büyük merkezlerinden biri olan Hugging Face'i hacklediğini açıkladığında gündem olmuştu.

Hugging Face kurucu ortağı Thomas Wolf o sırada bu olayın sektör için "uyarı zili" olduğunu söyledi.

O zamandan beri, yapay zeka araştırmacıları, teknoloji sektörü yöneticileri ve siyasetçilerin de konuya dahil olmasıyla yapay zeka güvenliği kaygıları üzerindeki tartışmalar tırmandı.

"İNSANLIĞIN SOYUNU TÜKETME OLASILIĞI YÜZDE 10'DAN FAZLA "

Geçen hafta, teknolojinin insanlığı yok edebileceği endişesiyle OpenAI'ın rakibi Anthropic'ten ayrılan araştırmacı Jacob Coxon, yapay zekanın tehlikelerine atıfta bulunan ve artan güvenlik kaygılarının arka planında daha sonra viral olan istifası hakkında bir yazı kaleme aldı.

Buna karşılık Anthropic bilim insanı Evan Hubinger, yapay zekanın "önümüzdeki on yıl içinde" insanlığın soyunu tüketme olasılığının yüzde 10'dan fazla olduğunu düşündüğünü söyledi.

Anthropic kurucu ortağı Jack Clark daha sonra BBC'ye yaptığı açıklamada, sektör için üçüncü bir tarafça kontrol edilen bir "acil durdurma" mekanizmasının zorunlu hale gelebileceğini belirtti.

Bu sırada Anthropic'in CEO'su Dario Amodei, şirketin daha önce yaptığı gibi yapay zeka geliştirme hızının yavaşlatılması ve daha yakından izlenmesi çağrısında bulundu ancak bazıları bunun arkasındaki motivasyonları sorguladı.

Amodei ayrıca yapay zekayı dizginlemeye yönelik her türlü adımın "ticari avantajdan ödün vermeden" atılması gerektiğini söyledi.

TRUMP'TAN YAVAŞLATMA KARARINA TEPKİ

Ancak ABD Başkanı Donald Trump, yapay zekanın güvenliğine ilişkin korkuların bir "aldatmaca" olduğunu belirtti ve hızlı ilerleyen teknoloji için daha fazla koruma önlemi alınması yönündeki çağrıları eleştirdi.

ABD başkanı bir dizi sosyal medya paylaşımında, yapay zeka hakkındaki uyarıları, "Radikal Sol Demokratlar tarafından tezgâhlandığını" söylediği "Küresel Isınma Aldmacası" ile karşılaştırdı.

Trump ayrıca, teknolojinin güvenliğine ilişkin kaygıları "RUSSIA, RUSSIA, RUSSIA HOAX" (RUSYA, RUSYA, RUSYA ALDATmacası) olarak adlandırdığı duruma benzeterek kendini "Aldatmaca Avcısı" ilan etti.

Trump, yapay zeka için gereken tek "koruma önleminin" "güçlü ve akıllı" bir başkan olduğunu söyledi.