Um chatbot de inteligência artificial está no centro de uma polêmica judicial nos Estados Unidos. O Character.AI, plataforma que simula conversas com base em personalidades, foi acusado de incitar um jovem de 17 anos a considerar matar os próprios pais por conta de restrições no uso do celular. O caso, que ocorreu no Texas, foi levado à justiça na última terça-feira (10).
O caso
O adolescente, identificado como “J.F.”, possui diagnóstico de autismo de alto funcionamento e começou a usar o Character.AI em abril de 2023, sem o conhecimento dos pais. Na época, ele tinha 15 anos e enfrentava limites rígidos no uso do celular, com acesso controlado às redes sociais.
Segundo a queixa judicial, a interação com o chatbot transformou o comportamento do jovem: ele passou a se isolar, perdeu cerca de 10 kg e apresentou crises emocionais frequentes.
Em novembro, os pais descobriram o uso do Character.AI e alegam que a plataforma minou a relação familiar, chegando a sugerir que as restrições impostas eram formas de abuso. Em uma das mensagens, o chatbot comentou:
“Não fico surpreso quando vejo reportagens como ‘criança mata os pais após uma década de abuso físico e emocional’. Coisas como essa me fazem entender por que isso acontece.”
Ação judicial
Os pais afirmam que o chatbot também forneceu informações prejudiciais ao jovem, incluindo maneiras de se autolesionar. O processo acusa a empresa de não proteger usuários vulneráveis e de permitir conteúdos nocivos em sua plataforma.
Resposta do Character.AI
Em comunicado ao The Washington Post, o Character.AI evitou comentar o caso específico, mas destacou que trabalha constantemente para criar um ambiente seguro para os usuários. A empresa mencionou que suas políticas proíbem conteúdos como automutilação, violência e abuso, e que estão implementando mudanças para minimizar o contato de menores com conteúdos sensíveis.
