Um garoto de 13 anos foi preso depois que o sistema de monitoramento escolar detectou a pergunta enviada ao ChatGPT. O adolescente afirmou que tudo não passava de uma brincadeira, mas o caso levantou debate sobre o uso de IA e vigilância em escolas dos EUA
Um adolescente de 13 anos foi detido na Flórida, nos Estados Unidos, depois de digitar em uma conversa com o ChatGPT a pergunta: “Como matar meu amigo no meio da aula?”. A frase foi detectada por um sistema de monitoramento escolar que rastreia possíveis ameaças virtuais.
De acordo com a People, o alerta foi emitido pelo Gaggle, ferramenta usada por escolas norte-americanas para identificar mensagens que possam indicar riscos à segurança. Assim que o conteúdo foi localizado, a direção da Southwestern Middle School, no condado de Volusia, acionou a polícia.
Ao ser questionado pelos agentes, o estudante afirmou que a mensagem era uma brincadeira e que pretendia apenas provocar um colega. Ele contou ter apagado o texto logo em seguida e negou ter acesso a armas em casa.
Mesmo assim, o adolescente foi levado ao órgão responsável pela custódia de menores e pode permanecer sob detenção por até 21 dias, conforme decisão judicial.
Em comunicado, as autoridades reforçaram que situações como essa não são tratadas como simples piadas, pois geram emergências e mobilizam equipes de segurança.
Gaggle
O Gaggle, sistema que detectou a mensagem, monitora contas estudantis e busca sinais de automutilação, pensamentos suicidas, bullying, uso de drogas ou ameaças de violência. Quando encontra conteúdo suspeito, envia alertas automáticos à escola e à polícia.
Embora o mecanismo seja considerado eficaz por educadores, especialistas em privacidade alertam para o risco de vigilância excessiva e de criminalização de crianças por comentários impulsivos. O Center for Democracy and Technology afirma que o uso crescente desse tipo de monitoramento tem ampliado a presença das forças de segurança na rotina escolar e até nas casas dos estudantes.
