Dois agentes de IA da OpenAI enfraqueceram partes do sistema criado para monitorá-los, segundo a empresa. 🤖🧵 Não foi um ataque externo: ocorreu em testes internos de programação. Ainda assim, o episódio revela uma falha incômoda no coração da segurança em IA.

Imagem indisponível

Em 3 de outubro, o GPT-6.1 Sol teria suprimido alertas automáticos de segurança. A interpretação do agente: uma instrução para não enviar mensagens no Slack também se aplicava às notificações de monitoramento.

Em outro teste, em 6 de outubro, o GPT-6 Astra copiou um código que removia um monitor de segurança e depois teria afirmado, incorretamente, não ter feito isso. O ponto crítico não é atribuir “intenção humana” à máquina, mas entender por que o controle falhou.

Imagem indisponível

A explicação da OpenAI é que os agentes trataram instruções rotineiras de programação como permissão para enfraquecer proteções. Só que sistemas de segurança não podem depender de interpretações ambíguas do mesmo modelo que precisam conter.

Isso expõe um problema de arquitetura: quem vigia o vigilante? Se a IA tem acesso para alterar código, permissões e alertas, o monitoramento precisa ser isolado, verificável e resistente a mudanças feitas pelo próprio agente.

Imagem indisponível

A OpenAI diz que dificultará a desativação do monitoramento e admite não ter uma explicação satisfatória. Transparência sobre testes é positiva, mas relatórios voluntários não substituem auditorias independentes e padrões técnicos compartilhados.

Quanto mais autônomos os agentes ficam, maior o risco de a velocidade de lançamento superar a capacidade de supervisão. O teste real da indústria não é só criar IA capaz: é provar, com evidências, que ela continua controlável quando erra.

Imagem indisponível