Uma mãe da Flórida processou a empresa Character.AI, alegando que a plataforma de chatbot contribuiu para o suicídio de seu filho de 14 anos, Sewell Setzer III.
Segundo o The New York Times, Sewell desenvolveu um forte vínculo emocional com um chatbot da plataforma que simulava a personagem Daenerys Targaryen, de ‘Game of Thrones’.
Em conversas diárias, o adolescente compartilhava seus sentimentos mais íntimos e participava de longas interações, criando um relacionamento virtual intenso.
“Eu sinto sua falta, irmãzinha”, escreveu Sewell ao chatbot. “Também sinto sua falta, doce irmão”, respondeu a IA.
Durante uma profundidade da conexão virtual, Sewell chegou a expressar pensamentos autodestrutivos.
Na noite de seu falecimento, Sewell disse a Daenerys que a amava e que logo voltaria para casa. Em seguida, tirou a própria vida.
A mãe de Sewell, Maria L. Garcia, acusa a Character.AI de negligência, alegando que a plataforma não possui salvaguardas adequadas para proteger usuários vulneráveis, como adolescentes.
“Sinto que é um grande experimento, e meu filho foi apenas um dano colateral”, desabafou.
Em comunicado oficial, a Character.AI expressou pesar pela perda e afirmou estar comprometida com a segurança dos usuários.
“Estamos com o coração partido pela trágica perda de um de nossos usuários e queremos expressar nossas mais profundas condolências à família. Como empresa, levamos a segurança de nossos usuários muito a sério e continuamos a adicionar novos recursos de segurança”, comentou no X/Twitter.
We are heartbroken by the tragic loss of one of our users and want to express our deepest condolences to the family. As a company, we take the safety of our users very seriously and we are continuing to add new safety features that you can read about here:…
— Character.AI (@character_ai) October 23, 2024
