A Anthropic, criadora do Claude, planeja levar um aviso fora do comum a potenciais investidores: IAs avançadas podem gerar riscos “catastróficos ou existenciais” para a humanidade. E isso pode constar no prospecto de seu IPO. 🤖🧵

Imagem indisponível

A cena é paradoxal: uma empresa busca recursos no mercado para expandir uma tecnologia — enquanto reconhece, no mesmo movimento, que ela pode sair perigosamente do controle. Não é ficção científica; é gestão de risco em escala inédita.

A Anthropic nasceu justamente com a promessa de desenvolver IA mais segura. Seu foco é criar sistemas alinhados a objetivos humanos, capazes de recusar usos nocivos e de operar com limites. Mas a própria empresa admite: garantias absolutas não existem.

Imagem indisponível

O alerta importa porque modelos de IA ficam mais capazes, baratos e presentes em decisões reais: trabalho, educação, crédito, saúde, segurança digital e informação. Uma falha não precisa parecer um robô rebelde para causar dano em larga escala.

Também há uma disputa de ritmo. Empresas correm por modelos mais potentes, investidores procuram crescimento e governos tentam entender como regular tudo isso. Quando poucas companhias concentram infraestrutura e conhecimento, transparência deixa de ser detalhe.

Imagem indisponível

Um prospecto de IPO costuma listar riscos para proteger investidores. Neste caso, a lista pode incluir a sociedade inteira. A pergunta que fica não é só quem lucrará com a próxima geração de IA — mas quem terá poder para definir seus limites.