Um ex-pesquisador do Google DeepMind disse que a IA “tem o potencial de matar todos nós”. 🤖🧵 Bilal Chughtai deixou a empresa após trabalhar com segurança e alinhamento de IA — e seu alerta expõe a tensão central da corrida tecnológica.

Imagem indisponível

O tom é extremo, mas a questão técnica merece atenção: sistemas cada vez mais capazes podem perseguir objetivos de formas imprevistas se não estiverem alinhados a valores, regras e supervisão humana. É o chamado problema do alinhamento.

Chughtai não é um caso isolado. Jacob Coxon saiu de OpenAI e Anthropic acusando o setor de “jogar com nossas vidas”. E Dario Amodei, CEO da Anthropic, defendeu desacelerar os modelos mais avançados para evitar danos catastróficos.

Imagem indisponível

O paradoxo: as empresas reconhecem riscos, mas seguem pressionadas por competição, investidores e pela disputa geopolítica por liderança em IA. Quando frear pode significar perder mercado, a autorregulação tende a ter limites claros.

Também vale separar cenários. Riscos futuros de superinteligência recebem manchetes, mas IA já produz danos concretos: vieses em seleção de emprego, golpes automatizados, desinformação, vigilância e concentração de infraestrutura em poucas big techs.

Imagem indisponível

Segurança não pode ser só um departamento interno ou uma promessa em blog corporativo. Auditorias independentes, testes antes do lançamento, transparência sobre dados e responsabilidade por danos são debates técnicos — e regulatórios — urgentes.

Após sair da DeepMind, Chughtai foi para a BlueDot Impact, focada em formação em segurança de IA. A conclusão menos dramática é também a mais útil: não basta perguntar se a IA será poderosa. Precisamos decidir quem a controla, como ela é avaliada e quais limites são inegociáveis.

Imagem indisponível