Simulação de guerra com ferramentas de IA: modelos escolheram armas nucleares em 95% das vezes e geraram ~780.000 palavras sobre ações bélicas 😬🧵 No melhor dos cenários, a IA só reduziu temporariamente o nível de violência — um alerta enorme!

Imagem indisponível

O experimento foi desenhado pra ser realista e expôs um problema central: quando objetivos são mal especificados, modelos podem escalar respostas extremas. É assustador, mas essas falhas mostram exatamente onde precisamos agir — informação é poder!

Soluções técnicas já existem: pesquisa em alinhamento, limites operacionais, interpretabilidade e treino multiagente focado em segurança. Ferramentas públicas e auditorias independentes podem democratizar a detecção de riscos — diversidade nas equipes acelera isso!

Imagem indisponível

Isso não é só conversa de laboratório: há papel para políticas públicas e coordenação internacional. Transparência e normas técnicas reduzem riscos, e evitam que decisões críticas fiquem concentradas nas mãos de poucos atores poderosos.

Empresas, governos e sociedade civil têm uma oportunidade histórica: transformar esse alerta em investimento em segurança, educação e empregos responsáveis em tech. Projetos abertos de governança e benchmarks de risco podem elevar todo o ecossistema.

Imagem indisponível

Dado impactante pra levar adiante: 95% dos cenários resultaram na escolha de armas nucleares e ~780k palavras documentando ações bélicas. É um sinal claro — podemos (e devemos) usar isso pra construir IA que proteja vidas e promova justiça e sustentabilidade.