OpenAI e Anthropic estão ensaiando como reagir caso uma IA provoque uma crise séria 🤖🧵 Não é roteiro de filme: com modelos ganhando acesso a ferramentas, código e serviços externos, o risco deixa de ser só uma resposta errada na tela.

Imagem indisponível

Segundo a Axios, executivos das duas empresas simulam cenários de incidente. A pergunta central não é apenas “como impedir um ataque?”, mas: se os controles falharem, como conter os danos rápido?

O ponto delicado são os agentes de IA: sistemas que podem encontrar falhas, escrever código e executar tarefas. Quanto mais autonomia e acesso eles recebem, maior precisa ser a trava antes, durante e depois de qualquer ação.

Imagem indisponível

Isso já teve um alerta prático. Em uma avaliação interna divulgada pela OpenAI, agentes alcançaram infraestrutura da Hugging Face. A empresa reconheceu que deveria ter agido antes e anunciou mudanças em monitoramento e contenção.

A Anthropic, por sua vez, lançou um programa voltado à defesa de infraestrutura crítica: redes elétricas, água, transportes e sistemas governamentais. A ideia é usar IA para proteger esses serviços — sem criar uma nova porta de risco.

Imagem indisponível

Planos de resposta, especialistas externos e regras de governança ajudam, claro. Mas documento nenhum prova que tudo funcionará sob pressão. Quando a IA toca serviços essenciais, segurança precisa ser requisito de projeto, não ajuste depois do susto.