OpenAI itiraf etti... İnsan gibi düşünen yapay zeka üzerinde çalışıyorlar!

Yapay zeka teknolojileri geliştirme şirketi olan OpenAI, yapay zeka destekli sohbet robotlarının insanlar gibi bir düşünce zinciri kurmasını sağlamak için testler gerçekleştirdiklerini açıkladı.

ABONE OL
GİRİŞ 01.06.2023 16:01 GÜNCELLEME 01.06.2023 17:30 TEKNOLOJİ
OpenAI itiraf etti... İnsan gibi düşünen yapay zeka üzerinde çalışıyorlar!

Yapay zeka halüsinasyonları olarak adlandırılan "yapay zeka yalanları ya da zekanın kendi çıkarımları" birçok kişinin farklı yönlendirilmesini sağlıyordu.

OpenAI, Çarşamba günü yaptığı açıklamada, yapay zeka modellerini eğitmek için daha yeni bir yöntemle yapay zeka "halüsinasyonlarına" karşı mücadele edeceğini duyurdu. 

Anket sonucu açıklandı: Yapay zeka işsizlik oranını artırabilir!

ETKİSİ HIZLA BÜYÜYOR

OpenAI, geçen yıl GPT-3 ve GPT-4 tarafından desteklenen sohbet robotu ChatGPT'yi piyasaya sürdüğünde üretken yapay zeka patlamasını hızlandırdı ve iki ay içinde aylık 100 milyon kullanıcıyı aşarak en hızlı büyüyen uygulama rekorunu kırdığı bildirildi.

Söz konusu teknoloji için bugüne kadar Microsoft, OpenAI'ye 13 milyar dolardan fazla yatırım yapmıştı.

YAPAY ZEKANIN YALANLARINI EN AZA İNDİRMEYE ÇALIŞACAKLAR

OpenAI tarafından geliştirilen ChatGPT veya Google Bard gibi modeller kullanıldığında yapay zeka halüsinasyonlarının ortaya çıkmasına neden oluyor.

Buna bir örnek: Google'ın Bard için Şubat ayında yayınladığı tanıtım videosunda, chatbot James Webb Uzay Teleskobu hakkında gerçek dışı bir iddiada bulunmuştu. Daha yakın bir zamanda ChatGPT, New York federal mahkemesine yaptığı bir başvuruda "sahte vakalardan" bahsetmişti.

Hukuk alanında yapay zeka paniği... Avukatlar durumu itiraf etti!

OpenAI araştırmacıları raporda "En gelişmiş modeller bile yanlışlar üretmeye eğilimlidir ve belirsizlik anlarında gerçekleri icat etme eğilimi gösterirler" diye yazdı.

Ayrıca araştırmacılar "Bu halüsinasyonlar çok adımlı muhakeme gerektiren alanlarda özellikle sorunludur çünkü tek bir mantıksal hata çok daha büyük bir çözümü raydan çıkarmak için yeterlidir." sözlerine yer verdiler.

İNSANLAR GİBİ DÜŞÜNEN MODELLER GELİŞTİRİLECEK

OpenAI'nin uydurmalarla mücadele için potansiyel yeni stratejisi, yapay zeka modellerini, bir cevaba ulaşırken sadece doğru bir nihai sonucu ödüllendirmek yerine, her bir doğru akıl yürütme adımı için kendilerini ödüllendirecek şekilde eğitmek olarak görülüyor.

Araştırmacılara göre bu yaklaşım "sonuç denetimi"nin aksine "süreç denetimi" olarak adlandırılıyor ve modelleri "insan benzeri bir düşünce" yaklaşımını takip etmeye teşvik ediyor.

TESTLER OLUMLU SONUÇ VERDİ

Sonuç denetimi ile OpenAI, yapay zekanın verdiği nihai sonuç hakkında geri bildirim sağlamak için ödül modellerini eğitecek. Süreç denetimi ile, ödül modeli yolun her adımında geri bildirim sağlayarak insan benzeri bir düşünce zinciri oluşturacak.

OpenAI, araştırma makalesinde her iki modeli de bir matematik veri seti üzerinde test ettiğini ve süreç denetimi yönteminin "önemli ölçüde daha iyi performans" sağladığını tespit etti.

SÜREÇ DENETİMİNİN OLASI SONUÇLARINDAN BAHSETTİ

Süreç denetimi yönteminin olası sonuçlarını açıklayan OpenAI şunları söyledi:

"Bu sonuçlar genelleşirse, süreç denetiminin bize her iki dünyanın da en iyisini sunduğunu görebiliriz. Sonuç denetiminden hem daha performanslı hem de daha uyumlu bir yöntem."

Ayrıca OpenAI, halka açık olan ChatGPT'de süreç denetiminin uygulanmasının ne kadar süreceği konusunda bir zaman çizelgesi vermedi.

KAYNAK : HABER7
Ekrem Öztürk Haber7.com - Teknoloji Editörü
Haber 7 - Ekrem Öztürk

Editör Hakkında

1995 yılında doğdu, İstanbul'da yaşıyor. Gelişim Üniversitesi Medya ve İletişim Bölümünden 2021 yılında mezun oldu. 6 yıldır metin yazarlığı yapmakta ve bu süreçte kendisinin bilim kurgu, kişisel gelişim alanlarında yazdığı üç kitabı bulunmaktadır. Belirli zamanlarda toplumu ilgilendiren güncel konuları özgün bir bakış açısıyla ele aldığı makaleler yazmaktadır. Meslek hayatına ise Haber7.com'da "Teknoloji Editörü" olarak devam etmektedir. Ayrıca günümüz insan ilişkilerinde saygının ve empatinin çok büyük bir güç olduğuna inanmaktadır.

İLGİNİZİ ÇEKEBİLİR