Um alerta que parecia roteiro de ficção científica voltou ao centro do Vale do Silício: pesquisadores e executivos estão pressionando por regras e testes de segurança para a IA. 🤖🧵

Imagem indisponível

O estopim foi uma declaração de Evan Hubinger, cientista da Anthropic. Ele afirmou enxergar mais de 10% de chance de a IA “matar todos os humanos” — uma frase extrema, mas que revela o tamanho da inquietação entre quem constrói esses sistemas.

A preocupação não é que um robô acorde amanhã com um plano maligno. O debate técnico envolve sistemas cada vez mais capazes, difíceis de prever, controlar e interromper quando cometem erros em grande escala.

Imagem indisponível

Por isso, cresce o pedido por desaceleração em áreas de maior risco: avaliações independentes, testes antes do lançamento, limites para usos perigosos e planos claros para desligar modelos que apresentem comportamento inesperado.

A história tem um paradoxo: as empresas correm para lançar IA mais potente, enquanto os mecanismos públicos de fiscalização avançam bem mais devagar. Quando poucos grupos concentram tanto poder computacional, a transparência deixa de ser detalhe.

Imagem indisponível

Regular não significa travar toda inovação. Significa definir responsabilidades antes que ferramentas capazes de afetar trabalho, informação, serviços públicos e segurança cheguem à sociedade sem salvaguardas proporcionais.

A pergunta não é se a IA vai continuar avançando — ela vai. A questão é quem estabelece os limites, quem audita os riscos e se teremos regras à altura da velocidade dessa tecnologia.

Imagem indisponível