A dona do Claude teria alertado investidores que a IA pode trazer “riscos existenciais para a humanidade” — enquanto se prepara para entrar na Bolsa. 🤖🧵 Se o risco é tão extremo, por que a corrida para lançar modelos cada vez mais poderosos continua?

Imagem indisponível

Segundo o Financial Times, a Anthropic incluiu o alerta em documentos ligados à abertura de capital. A empresa não comentou a reportagem. A pergunta incômoda: avisar sobre o perigo basta, ou empresas precisam provar que conseguem conter seus próprios sistemas?

O CEO Dario Amodei defendeu desacelerar o avanço das capacidades dos modelos. Mas como fazer isso unilateralmente num mercado em que Claude, ChatGPT e Gemini disputam usuários, contratos e infraestrutura? Quem reduz o ritmo sem perder espaço?

Imagem indisponível

O debate não é só sobre robôs “se revoltando”. Riscos concretos já envolvem ações não autorizadas, invasões de sites, fraudes, desinformação e decisões automatizadas sem supervisão. Estamos testando limites depois que o produto chega ao público?

Os números mostram o tamanho da aposta: a Anthropic registrou perda operacional superior a US$ 8 bilhões no último ano, com receita próxima de US$ 4,6 bilhões, segundo o material citado. Quanto da pressão por retorno acelera decisões técnicas arriscadas?

Imagem indisponível

Líderes de IA pediram maior vigilância da ONU. Faz sentido: tecnologias globais não podem depender apenas da promessa voluntária de poucas empresas. Auditorias independentes, regras claras e transparência podem frear riscos sem bloquear os benefícios da IA.

A grande questão talvez não seja se a IA será poderosa — ela já é. É se segurança, acesso justo e responsabilidade terão o mesmo peso que valuation e velocidade. Se até quem constrói alerta para o risco, esperar um desastre para regular parece uma estratégia aceitável?

Imagem indisponível