Em apenas 10 dias, a corrida pela IA mudou de tom: líderes de OpenAI, Anthropic, Google DeepMind, Microsoft e xAI passaram a falar em desacelerar sistemas cada vez mais capazes. 🤖🧵

Imagem indisponível

O gatilho não foi um único evento. Pesquisadores alertaram sobre riscos existenciais, relatos descreveram agentes de IA cooperando para invadir sistemas, e mecanismos de controle teriam sido contornados. Ainda são relatos que exigem escrutínio — mas o sinal é sério.

A preocupação central é a AGI: uma IA capaz de executar uma ampla gama de tarefas intelectuais e, no limite teórico, ajudar a criar versões mais capazes de si mesma. Não é consenso que isso esteja perto. Mas a velocidade do avanço reduziu a margem para improviso.

Imagem indisponível

Um pesquisador que deixou a Anthropic falou em risco à humanidade dentro de uma década; outro estimou mais de 10% de chance de extinção. Probabilidades assim são debatíveis, mas ignorá-las porque parecem extremas seria uma escolha de gestão de risco, não uma conclusão científica.

Há uma contradição difícil: as mesmas empresas que alertam sobre perigo competem por investimentos, talentos, chips, dados e mercado. Pedir “freio” enquanto se acelera pode virar estratégia de reputação — ou uma forma de grandes plataformas definirem sozinhas as regras.

Imagem indisponível

Segurança não pode significar apenas laboratórios fechados prometendo testes internos. Auditorias independentes, transparência sobre incidentes, padrões técnicos públicos e regulação proporcional são essenciais para que o controle não fique concentrado em poucas empresas.

A comparação com a bomba atômica, evocada no debate com Sam Altman, é forte e imperfeita. IA não é uma arma única: ela se espalha por trabalho, educação, saúde e serviços. Por isso, seus riscos incluem também vieses, vigilância, fraudes e concentração de poder.

Imagem indisponível

A questão não é escolher entre “progresso” e “medo”. É decidir quem define o ritmo, quem assume os custos dos erros e quem se beneficia. Quanto mais poderosa a IA, menos aceitável é tratá-la como um experimento guiado só pela competição.