Um pesquisador da Anthropic pediu demissão e lançou um alerta poderoso: a corrida por IA cada vez mais capaz não pode ser uma aposta feita às pressas. 🤖🧵 Jacob Coxon diz que OpenAI e Anthropic avançam rumo a sistemas autoaperfeiçoáveis sem responsabilidade suficiente.

Imagem indisponível

O ponto que torna o caso especialmente relevante: Coxon atuava em pré-treinamento, uma etapa central na construção dos modelos — não era um crítico externo nem alguém distante do código. O debate sobre segurança está vindo diretamente de quem desenvolve a tecnologia.

Segundo ele, há uma diferença importante entre as empresas: na OpenAI, o risco não seria plenamente internalizado; na Anthropic, seria compreendido, mas a empresa ainda estaria pressionada pela disputa para chegar primeiro.

Imagem indisponível

A declaração ganhou ainda mais peso porque um líder de alinhamento da Anthropic, área dedicada a fazer sistemas de IA seguirem objetivos humanos, concordou publicamente com a preocupação. Quando especialistas técnicos convergem, o setor precisa escutar.

A Anthropic respondeu que reconhece benefícios e riscos sem precedentes, mantém controles fortes e defende uma forma legal e verificável de cadenciar modelos mais poderosos. É um sinal promissor: segurança não precisa ser freio da inovação — pode ser sua infraestrutura.

Imagem indisponível

O episódio também não surgiu do nada. Timnit Gebru, Geoffrey Hinton, Ilya Sutskever e Jan Leike estão entre nomes que, em momentos diferentes, ampliaram o alerta sobre governança, segurança e prioridades das gigantes de IA.

A oportunidade agora é enorme: unir pesquisa aberta, auditorias independentes, regras claras e participação pública para que a IA avance com confiança. A tecnologia mais transformadora da década será melhor se sua velocidade vier acompanhada de responsabilidade.

Imagem indisponível