Três ex-pesquisadores da OpenAI pediram que a empresa preserve a capacidade de monitorar como seus modelos de IA chegam a respostas — e adote auditorias externas de segurança. O alerta envolve sistemas cada vez mais sofisticados. 🤖🧵

Imagem indisponível

Em carta ao conselho e aos comitês de segurança, Jasmine Wang, Tomek Korbak e Mikita Balesni afirmam que o setor ainda não sabe desenvolver e implantar com segurança modelos que não consegue monitorar adequadamente.

O ponto central é a chamada “cadeia de pensamento”: registros textuais do raciocínio usado pela IA para resolver problemas. Ela não revela perfeitamente intenção ou comportamento, mas é uma das ferramentas disponíveis para investigar decisões dos modelos.

Imagem indisponível

Segundo os pesquisadores, avanços técnicos podem reduzir essa visibilidade. A preocupação não é que a cadeia de pensamento seja infalível, mas que abandonar mecanismos de monitoramento sem substitutos confiáveis aumentaria a incerteza sobre modelos avançados.

Os três trabalhavam com segurança e alinhamento na OpenAI e foram demitidos por suposta má conduta ligada ao compartilhamento de informações confidenciais com um grupo externo de segurança, segundo reportagem do Wall Street Journal.

Imagem indisponível

A OpenAI disse que uma investigação interna concluiu que informações sensíveis foram tratadas de forma inadequada, violando políticas da empresa. Os ex-funcionários contestam a acusação e dizem não acreditar ter atuado fora do escopo de suas funções.

Na carta, eles defendem colaboração com auditores independentes e mais transparência com organizações de segurança. Em tecnologias de alto impacto, avaliação externa ajuda a reduzir conflitos de interesse e amplia a prestação de contas.

Imagem indisponível

O caso expõe um desafio central da IA: capacidade técnica sem mecanismos robustos de verificação pode ampliar riscos. À medida que os modelos evoluem, monitoramento, auditoria e governança precisam acompanhar o ritmo.