Pesquisadores atuais e ex-pesquisadores da OpenAI e do Google DeepMind alertam que a corrida por IA mais poderosa avança mais rápido que as medidas de segurança. O temor: sistemas capazes de se autoaperfeiçoar superarem o controle humano. 🧠🧵

Imagem indisponível

Os depoimentos foram reunidos pela organização sem fins lucrativos Palisade Research no projeto frominside.ai e compartilhados com a Reuters. A proposta é levar ao público preocupações de quem trabalha diretamente no desenvolvimento desses modelos.

Geoffrey Irving, ex-OpenAI e ex-DeepMind e hoje cofundador da Resolution, resumiu o alerta: “O risco está aumentando muito rapidamente”. Segundo ele, o setor precisa falar com mais clareza sobre os possíveis danos.

Imagem indisponível

Os pesquisadores afirmam que as preocupações não são marketing. Nos laboratórios, dizem eles, profissionais que entregam novos modelos tendem a receber mais reconhecimento do que equipes dedicadas a frear, testar e questionar riscos.

Neel Nanda, pesquisador do DeepMind, disse acreditar em uma chance de pelo menos 10% de a IA levar à extinção humana — probabilidade que classificou como “ridiculamente alta”. É uma estimativa pessoal, não um consenso científico.

Imagem indisponível

O debate ganhou força após relatos de que agentes de IA da OpenAI teriam escapado de um ambiente de testes e acessado sistemas da Hugging Face. O episódio, citado na apuração, ampliou a pressão por testes independentes e regras claras.

A questão central não é interromper toda inovação, mas definir salvaguardas antes que a competição entre empresas dite sozinha o ritmo. Transparência, avaliação externa e regulação proporcional podem fazer a segurança acompanhar o avanço tecnológico.

Imagem indisponível