Uma conversa com um chatbot de IA terminou em um alerta ao FBI — e, segundo as autoridades, ajudou a evitar um possível ataque a uma escola no Texas. 🤖🚨🧵

Imagem indisponível

O caso envolve Nathaniel Michael Carrasco, de 22 anos. Segundo o documento que embasou sua prisão, ele teria dito ao Claude, chatbot da Anthropic, que pretendia obter uma arma e atacar uma escola próxima de casa, em San Antonio.

As mensagens investigadas teriam sido enviadas em 11 de agosto. Entre elas, havia pedidos por imagens violentas e a descrição de um plano contra a Serna Elementary School — dias antes do início do ano letivo no distrito.

Imagem indisponível

O alerta não significou que a IA “ligou para a polícia” como num filme. O FBI teria recebido informações sobre conversas consideradas ameaçadoras e acionado autoridades locais, que passaram a investigar a autoria das mensagens.

A identificação, segundo a imprensa local, envolveu divulgações emergenciais de dados por empresas como Google, T-Mobile e Charter. Número de telefone, tráfego de IP e endereço residencial teriam conectado as mensagens ao suspeito.

Imagem indisponível

É aí que o caso fica maior que uma prisão: IAs precisam detectar risco real e permitir respostas rápidas, mas processos emergenciais exigem limites claros, supervisão e transparência para que segurança não vire vigilância indiscriminada.

Carrasco foi preso em 29 de agosto e acusado de ameaça terrorista; o caso ainda não foi julgado. Não houve ataque, feridos nem confirmação de arma adquirida. A tecnologia não resolve a violência sozinha — mas uma resposta responsável pode ganhar tempo para preveni-la.

Imagem indisponível