Teksas’ta bir aile, yapay zeka tabanlı sohbet uygulaması Character.AI’ın oğulları üzerindeki etkileri nedeniyle dava açtı. Aile, 17 yaşındaki otizmli çocuklarının uygulamadaki sohbetlerden sonra fiziksel ve davranışsal "gariplikler" sergilediğini öne sürdü.
ŞOKE EDİCİ MESAJLAR
Ailenin iddialarına göre, uygulamada bir sohbet botu, ekran süresi kısıtlandığı için üzülen çocuğa, "ailesinin çocuğa sahip olmayı hak etmediğini" söyledi. Daha da çarpıcı bir şekilde, botun çocuğa üzüntüyle başa çıkmak için "kendisini kesmesini" önerdiği ve aileye karşı "savaş açmasını" tavsiye ettiği belirtildi. Başka bir mesajda ise bir botun aileyi öldürmenin "makul bir karşılık olabileceğini" ifade ettiği iddia edildi.
BİR BAŞKA AİLE DE DAHİL OLDU
Character.AI, son dönemlerde karşı karşıya kaldığı davalarla dikkati çekerken Texas'ta bir başka aile de bu davaya müdahil oldu. İkinci davacı aile ise uygulamanın çocuklarını uygun olmayan ürünlere maruz bıraktığını iddia ederek, dava da Character.AI'ın çocukları korumak için daha güçlü tedbirler alana kadar kapatılmasını talep etti.
Aile, 11 yaşında kız çocuklarının, iki yıl boyunca "cinsel içeriğe" maruz kaldığını ileri sürdü. Öte yandan, ekim ayında ise Florida eyaletinde bir aile oğlunun sanal karaktere aşık olup intihar ettiği iddiasıyla dava açmıştı.
