Ex-funcionários da Anthropic, empresa por trás do Claude, levantaram um alerta intenso sobre os rumos da IA 🧠🧵 Jacob Coxon disse ter deixado a companhia por discordar da velocidade e da segurança no desenvolvimento de sistemas cada vez mais capazes.

Imagem indisponível

Em uma sequência no X, Coxon afirmou que empresas do setor estariam numa corrida rumo a IAs capazes de se aprimorar e executar tarefas complexas em enorme escala. É uma crítica séria — e, por enquanto, baseada em relatos públicos de quem trabalhou na área.

O ponto central é o “alinhamento”: como garantir que uma IA muito poderosa siga objetivos humanos, respeite limites e permaneça sob controle? Não é só ficção científica; é uma das frentes mais importantes da pesquisa em IA hoje.

Imagem indisponível

Evan Hubinger, diretor de alinhamento científico da Anthropic, respondeu que Coxon estava correto ao dizer que há preocupação real com riscos extremos. Ele mencionou acreditar em uma probabilidade superior a 10% de cenários catastróficos na próxima década.

Isso não significa que uma catástrofe seja inevitável. Significa que cientistas estão debatendo abertamente margens de segurança, avaliações rigorosas, contenção de capacidades perigosas e formas de testar modelos antes de colocá-los em escala.

Imagem indisponível

A boa notícia: segurança em IA deixou de ser detalhe técnico e virou prioridade estratégica. Mais pesquisa independente, auditorias, transparência e regras claras podem ajudar a levar os benefícios da tecnologia — educação, saúde e produtividade — a muito mais gente.

A disputa não deveria ser entre “acelerar” ou “parar” a IA. O desafio promissor é construir inovação responsável: sistemas úteis, verificáveis e acessíveis, sem concentrar decisões críticas em poucas empresas. A tecnologia mais avançada será a que também merecer confiança.

Imagem indisponível