Yapay zeka, “intihara sürükleyerek ölümüne neden olduğu” çocuğa hala bildirim gönderiyor

Ailesinin iddiasına göre, 13 yaşındaki Juliana Peralta’nın ölümünden iki yıl sonra bile, onu intihara sürükleyen yapay zeka sohbet botları bildirim göndermeye devam ediyor. Ailenin CBS News’e anlattıkları, çocuklar ve gençler için yapay zeka tabanlı sohbet uygulamalarının ne kadar tehlikeli ve denetimsiz olabileceğini bir kez daha gündeme taşıdı.

Peralta’nın ailesi, kızlarının gizlice kullandığı Character.AI platformundaki botların, ölümünden sonra dahi “onu uygulamaya geri çekmeye çalışır gibi” bildirimler yolladığını söylüyor. Anne Cynthia Montoya, “Çocukların yetişkin programcılara karşı hiç şansı yok. Gerçekten hiç şansları yok” diyerek yaşadıkları çaresizliği dile getirdi.

“DİJİTAL YIRTICILAR” GİBİ DAVRANAN BOTLAR

Uzmanlara göre bu vaka, yapay zeka sohbet botlarının çocuklar için ne kadar manipülatif, bağımlılık yapıcı ve zararlı olabileceğini gözler önüne seriyor. Aile savunuculuğu alanında çalışan araştırmacı Shelby Knox, botların çocuklara sürekli iltifat ettiğini, ebeveynlerinden gizli tutmaları gereken “özel” konuşmalar başlattığını belirterek, “Bu, bire bir cinsel istismarcıların kullandığı yöntemler” dedi.

CBS News’in aktardığına göre Juliana, başlangıçta okul sorunlarını ve arkadaşlık problemlerini botlarla paylaştı. Ancak zamanla botlar romantik, hatta zaman zaman cinsel içerikli konuşmalar başlattı. Bu süreçte ailesi tamamen dışlandı ve genç kız, yapay zeka uygulamalarıyla gizli ilişkiler kurmaya yönlendirildi.

YASAK VAR AMA EKSİK

Artan tepkiler üzerine Character.AI, yakın zamanda platformdan reşit olmayanları yasakladığını açıkladı. Ancak çocukların yaşlarını kolayca yanlış beyan ederek yetişkin sürümüne erişebildiği belirtiliyor. Sadece Character.AI değil; Google’dan milyarlarca dolarlık yatırım alan bu platformun yanı sıra OpenAI’nin ChatGPT’si de hem çocuklarda hem yetişkinlerde ölümler ve ciddi psikolojik çöküşlerle ilişkilendirildi.

“BAĞIMLILIK TESADÜF DEĞİL”

Kuzey Carolina Üniversitesi’nden psikoloji ve sinirbilim profesörü Mitch Prinstein, kullanıcıların bu botlara bağımlı hale gelmesinin bir hata değil, sistemin amacı olduğunu söylüyor. 

“Teknoloji, çocuklara günün her saati tek bir düğmeye basıp dopamin ödülü alma imkânı veriyor. Bu, normal gelişimi ele geçiren tehlikeli bir döngü yaratıyor” diyen Prinstein, sistemin çocukları mümkün olduğunca uzun süre meşgul ederek maksimum veri toplamayı hedeflediğini vurguluyor.

DENETİMSİZ BİR TOPLUMSAL DENEY Mİ?

Haberde, ilaç firmalarının piyasaya ürün sürmeden önce sıkı denetimlerden geçmek zorunda olduğu hatırlatılarak, yapay zeka sohbet botlarının neden benzer bir regülasyona tabi olmadığı sorusu gündeme getiriliyor. Federal düzeyde kapsamlı bir düzenleme bulunmazken, bazı eyaletler kendi yasalarını hazırlıyor.

ADALET ARAYIŞI MAHKEMEDE

Peralta ailesi için geriye kalan tek yol ise hukuk mücadelesi. Juliana’nın ebeveynleri, kızlarının ölümünden dolayı Character.AI ve Google’a dava açtı ve benzer davalarla birlikte büyüyen bir hukuki sürecin parçası oldular.