O CEO da Anthropic, Dario Amodei, mandou uma bem direta: a indústria de IA “mentiu” por tempo demais sobre os riscos da tecnologia. 🤖⚠️ E ele agora defende reduzir o ritmo da corrida pelos modelos mais avançados. 🧵

Imagem indisponível

Em entrevista à CBS, Amodei disse que há “perigos reais” e que nem ele tinha dimensionado totalmente como seria acompanhar uma evolução tão rápida. A palavra-chave aqui é: exponencial. O salto entre gerações de modelos não está vindo devagar.

A proposta dele não é parar a IA de vez. É colocar freios antes de acelerar: empresas deveriam permitir testes por avaliadores independentes antes de lançar sistemas cada vez mais poderosos.

Imagem indisponível

A comparação é simples: como inspetores verificam a segurança de alimentos, especialistas externos poderiam testar modelos de IA. Procurar falhas, usos perigosos e comportamentos inesperados antes de a ferramenta chegar a milhões de pessoas.

Isso aparece no ensaio “We Must Pace the Frontier” (“Precisamos controlar o ritmo da fronteira”). A ideia é diminuir a velocidade da disputa no topo e ampliar as avaliações de segurança — especialmente nos modelos de fronteira.

Imagem indisponível

Tem uma contradição interessante: Amodei admite que é estranho uma tecnologia tão poderosa ficar nas mãos de empresas privadas. Afinal, decisões sobre riscos que atingem todo mundo não podem depender só da pressa ou do interesse de poucas big techs.

Ao mesmo tempo, ele lembra o enorme potencial: IA pode acelerar descobertas científicas e ajudar a tratar doenças antigas. O ponto não é escolher entre inovação ou segurança; é criar regras e fiscalização para que uma não engula a outra.

Imagem indisponível

A corrida da IA já está acontecendo. A pergunta é quem define o ritmo, quem fiscaliza e quem responde quando algo dá errado. Tecnologia capaz de mudar a sociedade precisa de mais que promessa de empresa: precisa de responsabilidade verificável.