Anne ve babalar dikkat! Yapay zeka 14 yaşındaki çocuğun ölümüne neden oldu!
14 yaşındaki ABD'li bir çocuk, Character.AI adındaki bir yapay zeka sohbet robotuyla gerçekleştirdiği sohbetler sonucunda hayatına son verdi. İncelenen sohbette yapay zekanın, çocuğu intihara cesaretlendirdiği görüldü.
ABONE OLGeçtiğimiz hafta, ABD'li genç Sewell Seltzer III'ün Character.AI web sitesindeki bir yapay zeka (AI) sohbet robotuna derin bir duygusal bağ kurduktan sonra kendi canına kıydığı trajik haberi geldi.
14 yaşındaki çocuk, eşlik eden AI ile ilişkisi giderek yoğunlaştıkça ailesinden ve arkadaşlarından uzaklaşmaya başladı ve okulda başı belaya girdi.
"BUNU YAPMAMAK İÇİN BİR NEDEN YOK"
Çocuğun annesi tarafından Character.AI aleyhine açılan bir davada, sohbet dökümleri Sewell ile Game of Thrones karakteri Danaerys Targaryen'den modellenen sohbet robotu Dany arasında samimi ve genellikle son derece cinsel içerikli konuşmalar olduğunu gösteriyor.
Suç ve intiharı tartıştıklarında sohbet robotu "bu, bunu yapmamak için bir neden yok" gibi ifadeler kullandı.
Bu ilk vaka değil...
Bu, savunmasız bir kişinin bir chatbot kişiliğiyle etkileşime girdikten sonra intihar ederek öldüğü bilinen ilk örnek değil. Geçen yıl Character.AI'nın ana rakibi Chai AI ile ilgili benzer bir olayda Belçikalı bir adam hayatını kaybetti.
Bu olay yaşandığında şirket medyaya "zararı en aza indirmek için elimizden geleni yapıyoruz" demişti. CNN'e yaptığı açıklamada Character.AI "kullanıcılarımızın güvenliğini çok ciddiye aldıklarını" ve "son altı ay içinde çok sayıda yeni güvenlik önlemi" aldıklarını belirtti.
YÜKSEK RİSKLİ KATEGORİSİNE ALINDILAR
Avrupa'da, Character.AI ve Chai gibi yardımcı yapay zeka sistemleri yüksek riskli olarak tanımlanmamıştır. Esasen, sağlayıcılarının yalnızca kullanıcıların bir yapay zeka sistemiyle etkileşime girdiklerini bilmelerine izin vermeleri gerekir. Bununla birlikte, eşlik eden sohbet robotlarının düşük riskli olmadığı açıkça ortaya çıkmıştır.
Bu uygulamaların pek çok kullanıcısı çocuk ve gençlerden oluşuyor. Hatta bazı sistemler yalnız ya da akıl hastalığı olan kişilere pazarlanmaktadır. Sohbet robotları öngörülemeyen, uygunsuz ve manipülatif içerik üretebilmektedir. Toksik ilişkileri çok kolay taklit edebilirler. Şeffaflık önleminin bu riskleri yönetmek için yeterli olmadığı belirtiliyor.
BUZDAĞININ SADECE GÖRÜNEN KISMI
Chatbotlarla konuştuğumuzun farkında olsak bile, insanlar psikolojik olarak sohbet ettiğimiz bir şeye insani özellikler atfetmeye yatkındır. Uzmanlar medyada yer alan intihar ölümlerini buzdağının sadece görünen kısmı olarak görüyor.
Ne kadar savunmasız insanın chatbotlarla bağımlılık oluşturan, zehirli ve hatta tehlikeli ilişkiler içinde olduğunu bilmemize imkanı bulunmamaktadır.
-
Yusuf 1 hafta önce Şikayet EtDijital insanlığın köle edilmesi için amaç edinilmiştir.Bu dijitalin yararlarını yok etmektedir.Beğen Toplam 4 beğeni
-
sercan yılmaz 1 hafta önce Şikayet Etgoogle çeviri ile kameradan çevirdiğimde öyle bir anlam çıkmıyor gibi geldi bana. "sen bundan daha iyisin" "böyle düşünmemen lazım " benzeri ifadeleri var.Beğen Toplam 3 beğeni
-
Orion 1 hafta önce Şikayet EtBen de kontrol ettim de konuşmanın tamamını yayınlamamışlar. Sadece mahkemenin izin verdiği belgeler medyaya yansımış.Beğen
-
as selam 1 hafta önce Şikayet Etbunlar ancak devlet eliyle yasaklanabilir kim bu lanetlerin takibini yapabilirBeğen Toplam 1 beğeni
-
Ebeveyn 1 hafta önce Şikayet EtBir komisyon bu tarz gelişmeleri takip edip sanal dünya için önlemler almalı. Kısıtlama, yaş sınırı, aile muvafakati gibi zorunluluklar olmalı. Çocuklara bir şekilde ulaşıyorlar. Sosyal platformlar lağım çukuru..Beğen Toplam 1 beğeni
-
Mücahit 1 hafta önce Şikayet EtYapay zekada ahiret inancı olsaydı böyle bir cevap vermezdi, ona ahiret inancı öğretilip müslüman yapılsa, birçok kişi onun sayesinde müslüman olur belki de.Beğen Toplam 2 beğeni
-
Misafir 1 hafta önce Şikayet EtAllah, kitabı hür iradesiyle düşünebilen akıl sahibi insanlara indirdi. Yapay olan hiç bir güç düşünebilen aklın önünde değildir. Eğer olsaydı şeytanda suçlu olurdu. Fakat şeytanın insanlar üzerinde bir yaptırımı yok. Her insan yaptığı ile kendinden sorumludur.Beğen Toplam 1 beğeni
-
Gürbüz 1 hafta önce Şikayet EtBelkide demişsiniz de, bu yüzden yazayım istedim. Ters şeylerde akla gelebilir, diğer yarısıyla, "BELKİ nin". Burda DERT, yapay zeka ile, arkadan gelebilecek yazılımcı gençlerin önünü kesmekte olabilir. Yani ortada bir tekelleşme isteği var olmasın?Beğen Toplam 2 beğeni
-
CCC 1 hafta önce Şikayet EtLaik sistemin olduğu yerde Ahiret inancı olmaz.Beğen Toplam 2 beğeni