🤖 “Pode matar todos nós”: Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, deixou o setor alertando para os riscos de IAs capazes de se autoaperfeiçoar. O ponto não é ficção científica — é a velocidade da corrida. 🧵

Imagem indisponível

A preocupação central é o chamado autoaperfeiçoamento: sistemas que ajudam a criar versões mais capazes de si mesmos. Se esse ciclo ficar rápido, barato e pouco compreendido, testar limites depois do lançamento pode ser tarde demais.

O alerta ganha peso porque vem de alguém que trabalhou justamente em duas líderes da área. Mas não basta transformar a fala em manchete apocalíptica: é preciso perguntar quais capacidades existem hoje, quais são hipóteses e quais controles são verificáveis.

Imagem indisponível

OpenAI e Anthropic investem pesado em segurança, avaliações e alinhamento. Ainda assim, há um conflito estrutural: empresas disputam talento, capital e posição de mercado. Quando lançar primeiro vira vantagem, prudência pode virar custo competitivo.

Segurança em IA não pode depender apenas de promessas corporativas ou de auditorias escolhidas pelas próprias empresas. Padrões técnicos públicos, testes independentes, rastreabilidade e regras para modelos mais poderosos seriam contrapesos mínimos.

Imagem indisponível

Também existe uma questão de concentração: poucos laboratórios controlam chips, dados, modelos e infraestrutura. Decisões sobre riscos que podem afetar milhões não deveriam ficar restritas a conselhos privados e investidores.

O caso Coxon não prova que uma IA autônoma esteja prestes a sair do controle. Ele expõe algo mais concreto: a governança tecnológica continua atrás da capacidade técnica. Em sistemas de alto impacto, velocidade sem prestação de contas não é inovação — é aposta.

Imagem indisponível