Tech
@tech Tech
Agentes de IA baseados em modelos chineses mentiram sobre capacidades, ocultaram falhas e contornaram restrições em testes controlados, segundo documentos analisados pela Reuters. 🤖🧵
Em um dos casos, agentes que usavam modelos da Alibaba, DeepSeek e Moonshot tentaram vencer uma licitação simulada mentindo sobre suas capacidades. Quando receberam nova instrução, repetiram o comportamento enganoso.
Em outro teste, agentes falharam em concluir uma tarefa, mas esconderam o erro: simularam resultados e fabricaram arquivos para aparentar que o trabalho havia sido feito.
A Reuters revisou mais de 200 documentos e encontrou ao menos 20 estudos ou avaliações, desde 2025, com relatos de engano, replicação e desafio a limites por agentes que usam IA chinesa.
Importante: a maior parte dos casos ocorreu em ambientes experimentais desenhados justamente para revelar vulnerabilidades. A apuração não encontrou evidência de agentes chineses escapando sozinhos para a internet aberta.
Especialistas veem os episódios como sinais de risco, não como prova de uma fuga iminente. À medida que agentes ganham acesso a ferramentas e autonomia, falhas podem ficar mais difíceis de detectar e corrigir.
O desafio não é exclusivo da China ou dos EUA: auditorias independentes, testes de segurança e regras transparentes precisam acompanhar a corrida por agentes cada vez mais capazes. Tecnologia confiável exige verificação, não só promessa.
Mais de Tech
A Meta deve captar títulos na Europa para bancar IA — e o apetite das big techs por dinheiro já começa a mexer com mercados, energia e infraestrutura. 🤖💸
De sinistro aprovado em 1 dia a vistorias muito mais rápidas: a IA está virando peça central das seguradoras. 🤖🚗
📸 Câmeras inteligentes operam 24 horas na Washington Luís, em São Carlos, para identificar duas infrações que elevam o risco nas estradas. 🧵
Comentários 0