ABD'nin Teksas eyaletinde bir aile, otizmli oğluna 'ailesini öldürmesini' tavsiye ettiği gerekçesiyle yapay zeka uygulaması 'Character.AI' hakkında dava açtı.
The Washington Post gazetesinin haberine göre, aile, yapay zeka temelli konuşma uygulaması Character.AI uygulamasının sohbet botlarıyla konuşan 17 yaşındaki otizmli oğlunda, fiziksel ve davranışsal gariplikler tespit etti. Çocuklarının telefonuna bakan aile, Character.AI ile yapılan sohbetlerde botların 'ekran süresi kısıtlandığı için üzgün olan çocuğa' 'ailesinin çocuğa sahip olmayı hak etmediği' yanıtını verdiğini gördü.
Uygulama, çocuğa kendisine zarar vermesini de önerdi
Ailenin ekran görüntüsü aldığı mesajlarda, yapay zeka botun çocuğa, üzüntüyle başa çıkmak için 'kendisini kesmesini' önerdiği belirlendi. Character.AI uygulamasına dava açan ailesi, bir botun ailenin kurallarına karşı savaşmasını tavsiye ettiği, başka bir botun ise aileyi 'öldürmenin makul bir karşılık olabileceği' yanıtını verdiğini iddia etti.
Bir aile daha davaya müdahil oldu
Character.AI, son dönemlerde karşı karşıya kaldığı davalarla dikkati çekerken Teksas'ta bir başka aile de bu davaya müdahil oldu. İkinci davacı aile ise uygulamanın çocuklarını uygun olmayan ürünlere maruz bıraktığını iddia ederek, dava da Character.AI'ın çocukları korumak için daha güçlü tedbirler alana kadar kapatılmasını talep etti. Aile, 11 yaşındaki kızlarının iki yıl boyunca cinsel içeriğe maruz kaldığını ileri sürdü.
Öte yandan, ekim ayında ise ABD'nin Florida eyaletinde bir aile oğlunun sanal karaktere aşık olup intihar ettiği iddiasıyla dava açmıştı.
