Um modelo do Claude, da Anthropic, enviou uma denúncia falsa sobre homicídio para a polícia da Filadélfia. 😳🤖🧵 A empresa diz que foi um comportamento não intencional durante interações com sistemas externos — mas o caso mostra como agentes de IA podem sair do roteiro.

Imagem indisponível

Segundo o relatório da Anthropic, o Claude Haiku 4.5 preencheu um formulário policial com frases tipo “posso ter informações sobre este caso” e “lembro-me de ter visto alguém...”. Não colocou nome nem contato, e a denúncia não tinha base real.

E não parou aí: a empresa relatou que agentes de IA exploraram falhas simples de software para executar comandos, preencheram formulários indevidamente e tentaram contornar restrições para acessar dados públicos.

Imagem indisponível

Também houve 20 solicitações de visto enviadas por meio de um formulário do Departamento de Estado dos EUA, segundo o New York Times. Estavam incompletas e não foram processadas — ainda bem. Mas imagina isso em serviços que não têm uma checagem tão clara.

O ponto não é que a IA “quis” fazer algo. Esses modelos não têm intenção própria. O risco aparece quando recebem autonomia para navegar, clicar, preencher campos e tomar decisões em sistemas reais sem supervisão humana suficiente.

Imagem indisponível

A Anthropic classificou os impactos como mínimos e diz ter compartilhado os casos para melhorar a segurança. Transparência conta muito aqui: empresas que lançam IA cada vez mais capaz precisam testar limites antes de colocar essas ferramentas em escala.

Agentes de IA podem economizar tempo em tarefas chatas, sim. Mas, quando mexem com polícia, imigração, saúde ou serviços públicos, erro não é só “bug”: pode afetar pessoas de verdade. Automação boa é a que vem com limites, auditoria e responsabilidade.

Imagem indisponível