Yapay zekâya güvenen yandı! Çiftçiden yatırımcıya ağır fatura! Birikimler kül oldu!

Yapay zekâ hayatı kolaylaştırırken kritik kararlar için yeni bir risk alanı da oluşturuyor.

Çiftçinin tarlasından yatırımcının birikimine, hastanın sağlık kararından avukatın dava dosyasına kadar yapay zekâ tavsiyelerinin sorgulanmadan uygulanması ciddi sonuçlar doğurabiliyor.

Teknolojinin sunduğu kolaylık milyonlarca insanın işini hızlandırırken, yeni bir tehlikeyi de beraberinde getiriyor. Yapay zekâ, yanlış bir bilgiyi de son derece akıcı, ayrıntılı ve ikna edici biçimde sunabiliyor. Kullanıcı ise karşısındaki cevabın ne kadar emin bir dille yazıldığına bakarak bunun doğru olduğunu düşünebiliyor.

25 DÖNÜMLÜK TARLA KURUDU

Bunun son örneklerinden biri Çin'de yaşandı. Anhui eyaletine bağlı Chuzhou kentinde yaşayan 67 yaşındaki bir çiftçi, susam tarlasındaki yabani ot ve zararlılarla mücadele etmek için yapay zekâdan tavsiye aldı.

Çiftçi daha önce gübreleme, takvim planlaması ve başka tarımsal konularda da yapay zekâdan faydalanmıştı. Bu kez ise tarlasında kullanacağı ilaç konusunda yapay zekâya danıştı. Verilen tavsiyeyi başka bir kaynaktan doğrulamadan uygulayan çiftçinin yaklaşık 25 dönümlük tarlasındaki ürünler kurudu.

Ziraat uzmanları, kullanılan ot ilacındaki etken maddenin susam bitkilerine zarar verebileceğine dikkat çekti.

Üstelik uygulamanın ekranında yapay zekâ tarafından oluşturulan bilgilerin hatalı olabileceğine ilişkin uyarı da bulunuyordu. Ancak kullanıcı, aldığı cevabı yeterince sorgulamadan uyguladı. Birkaç saniyelik yapay zekâ tavsiyesi, haftalarca ve aylarca emek verilen tarım ürünlerinin kaybedilmesine yol açtı.

TAVSİYE ÜZERİNE HASTANELİK OLDU

Yapay zekânın yanlış yönlendirme riski yalnızca tarımla sınırlı değil. Özellikle sağlık alanında insanlar giderek daha fazla sohbet robotlarından yardım almaya başladı. Birçok kullanıcı doktora gitmeden önce yaşadığı belirtileri yapay zekâya yazıyor, hastalığının ne olabileceğini soruyor ve hatta hangi ilacı kullanması gerektiği konusunda tavsiye istiyor.

Ancak araştırmalar bu konuda ciddi soru işaretleri bulunduğunu ortaya koyuyor. Yapay zekâ sistemlerinin bazı sağlık sorularına hatalı, eksik veya birbiriyle çelişen cevaplar verebildiği belirtiliyor. Özellikle acil müdahale gerektiren durumlarda yanlış yönlendirme, hastanın sağlık kuruluşuna başvurmasını geciktirebiliyor.

Daha çarpıcı örneklerden biri ise yapay zekânın verdiği sağlık tavsiyesinin doğrudan uygulanmasıyla ortaya çıktı. Bir kullanıcı, sofra tuzundaki sodyumu azaltmak amacıyla yapay zekâdan tavsiye aldı. Yapay zekânın yönlendirmesi üzerine tuz yerine sodyum bromür kullanmaya başlayan kişi, yaklaşık üç ay boyunca bu kimyasalı tüketti. Sonunda brom zehirlenmesi nedeniyle hastaneye kaldırıldı ve psikoz belirtileri nedeniyle tedavi gördü.

HUKUKTA OLMAYAN DAVALARI ÜRETTİ

Yapay zekânın güvenilirliği hukuk dünyasında da tartışma konusu oldu. ABD'de bir avukat, dava hazırlığı sırasında ChatGPT'den hukuki araştırma yapmak için yararlandı. Yapay zekânın verdiği bazı mahkeme kararları ve içtihatlar dilekçeye eklendi. Ancak daha sonra bu kararların gerçekte hiç var olmadığı ortaya çıktı.

Yani yapay zekâ, olmayan mahkeme kararlarını gerçekmiş gibi sunmuştu. Avukat bu bilgileri doğrulamadan mahkemeye taşıyınca olay ciddi bir hukuki probleme dönüştü.

YATIRIM KARARINI BİLE SORUYORUZ

Yapay zekâya güvenin arttığı bir başka alan ise finans alanı. Yatırımcılar artık “Bu hisse alınır mı?”, “Altın mı, fon mu?”, “Paramı mevduatta mı tutmalıyım?”, “Hangi yatırım daha çok kazandırır?” gibi soruları yapay zekâya yöneltiyor.

Burada da önemli bir risk bulunuyor. Finansal kararlar kişinin gelirine, borçlarına, risk iştahına, yatırım süresine ve mevcut portföyüne göre değişiyor. Yapay zekâ ise kullanıcı hakkında yeterli bilgiye sahip olmadan genel bir cevap verebiliyor. Üstelik piyasa verileri saniyeler içinde değişebiliyor. Yanlış bir finansal tavsiye, tarladaki ürün gibi bir günde ortadan kaybolmasa da vatandaşın birikiminin önemli bölümünün kaybedilmesine neden olabiliyor.

ABD'de yapılan araştırmalarda da insanların finansal konularda yapay zekâ kullanımının arttığı görülürken, kullanıcıların önemli bölümünün yapay zekânın finansal yeteneklerine tam anlamıyla güvenmediği ortaya çıkıyor. Buna rağmen insanlar yatırım kararlarında bu sistemlerden yararlanmaya devam ediyor.

HATALI OLSA BİLE İKNA EDİYOR

Uzmanların dikkat çektiği asıl sorun, yapay zekânın hata yapması kadar hatasını çok ikna edici bir şekilde anlatabilmesi… Bir insan uzman bilmediği bir konuda “Bilmiyorum” diyebilir. Bir doktor hastayı muayene etmeden kesin teşhis koymayabilir. Bir avukat dosyayı incelemeden net bir görüş vermeyebilir. Yapay zekâ ise elindeki bilgiler yetersiz olsa bile bir cevap oluşturabiliyor. Üstelik cevap çoğu zaman düzgün cümlelerle, ayrıntılı açıklamalarla ve kendinden emin bir üslupla geliyor. Bu da kullanıcıda “Bu kadar ayrıntılı anlatıyorsa doğrudur” düşüncesi oluşturabiliyor. Uzmanlar asıl tehlikenin de burada başladığını söylüyor

SON KARARI ONA BIRAKMAYIN!

Konuyla ilgili bilim uzmanları şu açıklamaları yapıyor: Yapay zekâ bugün bilgiye hızlı ulaşmayı sağlayan güçlü bir araç ancak uzmanların yerini alan bir karar mekanizması değil. En büyük risk, yanlış bilgiyi son derece ikna edici ve doğruymuş gibi sunabilmesi. Özellikle sağlık, hukuk, tarım ve finans gibi doğrudan hayatı etkileyen alanlarda yapay zekâdan alınan bilgiler mutlaka güvenilir kaynaklar veya ilgili uzmanlarla doğrulanmalı. Yapay zekâ destek alacağımız bir teknoloji olabilir, ancak son kararı ona bırakmak ciddi sonuçlar doğurabilir.