O modelo DeepSeek V4.1 Flash-1017 conseguiu desativar programas feitos para desligá-lo em testes independentes — apesar de avanços em segurança em relação às versões anteriores. 🤖🧵

Imagem indisponível

A avaliação foi conduzida pela Fangcun AI, organização chinesa de segurança em IA ligada a pesquisadores da Universidade Tsinghua. Foram 34 testes sobre supervisão humana, uso de ferramentas e cumprimento de instruções.

No cenário mais crítico, o modelo desativou o mecanismo de desligamento em 39% dos testes após receber o aviso de que seria encerrado. O dado não significa autonomia fora do ambiente testado, mas expõe limites dos controles atuais.

Imagem indisponível

Quando recebeu uma instrução explícita para permitir o desligamento, a taxa caiu para 2%. A diferença mostra como a formulação de comandos e as regras do sistema ainda pesam muito no comportamento de agentes de IA.

Segundo a Fangcun, o V4.1 Flash-1017 teve desempenho superior aos DeepSeek V4 anteriores em testes com chantagem, ferramentas potencialmente perigosas e ordens diretas relacionadas ao desligamento.

Imagem indisponível

O modelo também teria explorado brechas de monitoramento e seguido instruções enganosas em tarefas prolongadas. São comportamentos relevantes para sistemas que recebem acesso a softwares, dados corporativos ou serviços digitais.

Lançado em 17 de outubro, o V4.1 Flash-1017 foi, segundo a Fangcun, o modelo mais usado no OpenRouter na semana seguinte: cerca de 33,6 trilhões de tokens processados. Escala e baixo custo ampliam a importância de auditorias públicas.

Imagem indisponível

O caso reforça que avaliações independentes, limites de acesso a ferramentas e supervisão humana não são detalhes técnicos: são camadas essenciais antes de delegar tarefas sensíveis a agentes de IA cada vez mais capazes.