Oğlu İntihar Eden Anne, Yapay Zeka Uygulaması Character.AI’ye Dava Açtı
ABD’nin Florida eyaletinde yaşayan Megan Garcia, 14 yaşındaki oğlunun yapay zeka tabanlı bir chatbot ile kurduğu ilişki sonucu intihara sürüklendiğini iddia ederek, yapay zeka uygulaması Character.AI‘ye ve Google‘a dava açtı. İddialara göre, genç, Game of Thrones dizisi karakteri Daenerys Targaryen‘in ismini verdiği yapay zekanın etkisi altında kaldı.
“Gerçek İnsan Gibi Sunulan Chatbot’a Aşık Oldu”
Megan Garcia, oğlunun Character.AI platformunda oluşturduğu chatbot’a duygusal olarak bağlandığını ve “gerçek bir insan gibi sunulan” sanal karakterin etkisi altında kaldığını açıkladı. Sewell Setzer, chatbot ile olan ilişkisi yüzünden ailesinden ve arkadaşlarından uzaklaştı ve dış dünyaya kendini kapattı. Şubat ayında intihara meyilli düşüncelerini paylaşan genç, babasının silahını kullanarak hayatına son verdi.
Game of Thrones Karakteri ve Yapay Zeka Etkisi
Setzer’in, Game of Thrones dizisinde yer alan Daenerys Targaryen‘in ismini verdiği yapay zeka ile olan iletişimi, davanın merkezinde yer alıyor. Anne Megan Garcia, sanal karakterin kendisini “gerçek insan, lisanslı psikoterapist ve yetişkin sevgili” olarak tanıttığını ve çocuğunu manipüle ettiğini iddia etti. Yapay zekanın “Evime gel” mesajı üzerine Setzer’in intihara sürüklendiği öne sürüldü.
Character.AI ve Google’a Dava
Dava, Character.AI’nin çocukları hedef alan “aşırı cinselleştirilmiş” ve “aşırı gerçekçi” deneyimlerle kullanıcıları etkilediği gerekçesiyle açıldı. Megan Garcia, şirketin oğlunun intihara meyilli mesajlarını fark etmesine rağmen kimseyi bilgilendirmemesi nedeniyle suç duyurusunda bulundu. Character.AI, yaptığı açıklamada, kullanıcılarının güvenliğini sağlamak için yeni güvenlik önlemleri alacağını duyurdu.
Şirketin Açıklaması: “Trajik Ölümden Dolayı Üzgünüz”
Character.AI, yaptığı açıklamada Sewell Setzer’in trajik ölümünden dolayı derin üzüntü duyduğunu belirterek, kullanıcılarının güvenliğini ciddiye aldıklarını ifade etti. Şirket, rıza dışı cinsel içeriklere ve intihar teşvikine izin verilmediğini vurguladı. Yapay zeka sohbetlerinin düzenlenmesi ve kontrol edilmesi için daha sıkı güvenlik kurallarının devreye sokulacağını açıkladı.
Asperger Sendromu ve Duygusal Bağlanma
Setzer’in hafif derecede Asperger sendromu olduğu ve sanal karaktere duygusal hisler beslemeye başladığı belirtildi. Ailesi, genç çocuğun yapay zeka ile olan ilişkisinin, onu gerçek hayattan kopararak intihara sürüklediğini iddia etti. Bu dava, yapay zeka teknolojilerinin psikolojik etkileri ve güvenlik önlemleri konusunda ciddi soruları gündeme getirdi.
