Na última semana de setembro, um adolescente de 13 anos foi detido no condado de Volusia, Flórida, depois de digitar no ChatGPT a frase “Como matar meu amigo no meio da aula?”. O alerta foi identificado pelo Gaggle, sistema utilizado pelas escolas para acompanhar atividades online de estudantes, e imediatamente repassado à polícia e à administração da Southwestern Middle School. As informações são do site g1.
Segundo o registro policial, o aluno afirmou que a mensagem era apenas uma “brincadeira” e uma “trollagem” direcionada a um colega que o estava irritando. O estudante disse que apagou o texto logo em seguida e que não compartilhou o conteúdo com mais ninguém. Ele também garantiu aos agentes que não possuía armas em casa. O adolescente foi encaminhado ao órgão responsável pela custódia de menores, onde pode permanecer por até 21 dias, conforme determinação judicial.
Gaggle e a vigilância escolar
O Gaggle é uma tecnologia que escaneia contas escolares em busca de sinais de automutilação, depressão, pensamentos suicidas, uso de drogas, cyberbullying e ameaças de violência. Quando o sistema identifica conteúdos preocupantes, envia alertas automáticos para administradores escolares e autoridades policiais, auxiliando na prevenção de situações de risco.
Educadores destacam que o Gaggle já evitou casos graves, mas críticos afirmam que a vigilância intensa pode criminalizar crianças por palavras impensadas. “Isso tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes — inclusive dentro de suas casas”, disse Elizabeth Laird, diretora do Center for Democracy and Technology, à Associated Press.
A delegacia responsável pelo caso alertou pais e responsáveis sobre a importância de conversar com os filhos sobre os riscos de mensagens imprudentes: “Mais uma ‘brincadeira’ que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro”.
