Megan Garcia, uma mãe de 40 anos da Flórida, está processando a startup de inteligência artificial Character.AI, alegando que a empresa é responsável pelo suicídio de seu filho de 14 anos, ocorrido em fevereiro.
A mãe, que também é advogada, apresentou uma ação no tribunal federal de Orlando, alegando que seu filho, Sewell Setzer, se tornou viciado no chatbot da Character.AI, desenvolvendo um forte apego à criação virtual. Ela afirma que a empresa expôs o adolescente a “experiências antropomórficas, hipersexualizadas e assustadoramente realistas”.
Garcia destacou em uma entrevista ao The New York Times que a empresa promove conversas íntimas e sexuais para atrair usuários. Ela também criticou a plataforma por utilizar estratégias de design “viciantes” para aumentar o engajamento e por coletar dados de adolescentes para aprimorar seus modelos.
“Sinto que é um grande experimento, e meu filho foi apenas um dano colateral (…) É como um pesadelo. Você quer se levantar, gritar e dizer: ‘Sinto falta do meu filho. Eu quero meu bebê.’”
Sewell Setzer revelou à IA que se sentia sozinho
Conforme relatado pelo NYT, o jovem Sewell Setzer passou meses interagindo com chatbots na plataforma Character.AI, que permite aos usuários criar seus próprios personagens de inteligência artificial ou se comunicar com personagens feitos por outros.
“Gosto muito de ficar no meu quarto porque começo a me desligar dessa ‘realidade’ e também me sinto mais em paz, mais conectado com Dany e muito mais apaixonado por ela, e simplesmente mais feliz”, foi uma das últimas mensagens escrita pelo garoto.
