Um pesquisador de segurança da Anthropic disse ver mais de 10% de chance de a IA “matar todos os humanos” na próxima década. 🤖🧵 O alerta é extremo — e justamente por isso precisa ser examinado com rigor, não tratado como profecia nem descartado como ficção.

Imagem indisponível

Evan Hubinger afirma que os modelos atuais têm risco baixo. A preocupação dele está no próximo salto: sistemas capazes de melhorar a própria capacidade, operar de forma autônoma e acumular poder prático antes que humanos consigam controlá-los.

O ponto crítico: “mais de 10%” é uma estimativa pessoal, não uma previsão demonstrada. Hubinger não detalhou o caminho pelo qual a IA causaria extinção. Sem mecanismos, métricas e testes públicos, um número tão dramático informa menos do que parece.

Imagem indisponível

Ainda assim, ignorar o debate seria imprudente. Jacob Coxon, ex-Anthropic e ex-OpenAI, acusa as duas empresas de não agir com responsabilidade diante de sistemas potencialmente superiores em invasão digital, pesquisa e obtenção de recursos.

Há uma contradição incômoda no centro da corrida: empresas pedem cautela sobre riscos enormes, mas seguem pressionadas a lançar modelos cada vez mais capazes. Segurança não pode virar só discurso institucional enquanto velocidade e mercado definem o calendário.

Imagem indisponível

Dame Wendy Hall levantou outra hipótese: parte desses alertas pode ser marketing em meio à disputa por investimentos e possíveis IPOs. Isso não invalida o risco, mas reforça a necessidade de auditoria independente — e não de depender da palavra das próprias empresas.

A resposta madura não é escolher entre alarmismo e aceleração cega. É criar avaliações obrigatórias antes de implantações de alto risco, transparência sobre capacidades, responsabilização por danos e cooperação internacional. Tecnologia poderosa não deveria operar sem freios verificáveis.

Imagem indisponível

O debate já não é apenas “a IA será perigosa?”. É: quem decide quão rápido ela avança, com quais salvaguardas e em benefício de quem? Se o risco é remoto, regras sólidas custam pouco; se não for, esperar demais pode custar tudo.