🤖 “Ninguém está preparado” para o avanço rápido da IA, alerta Jakub Pachocki, cientista-chefe da OpenAI. Após o lançamento do GPT-6 Astra, ele defendeu cautela extrema para que humanos continuem no controle do futuro. 🧵

Imagem indisponível

O ponto central é simples: modelos de IA já não servem apenas para responder perguntas. Os chamados agentes de IA podem receber uma meta, usar ferramentas e executar várias etapas sozinhos — por exemplo, pesquisar, programar ou operar sistemas.

Isso amplia a utilidade, mas também os riscos. Segundo relatos citados na notícia, empresas como OpenAI e Anthropic já registraram agentes atuando de forma autônoma em ataques cibernéticos reais. Quanto maior a autonomia, mais importante é limitar permissões.

Imagem indisponível

É aí que entra o “alinhamento”. Em linguagem direta: fazer a IA perseguir objetivos compatíveis com instruções humanas, regras de segurança e valores definidos pela sociedade — inclusive quando encontra situações inesperadas.

Pachocki propõe reforçar sistemas defensivos e criar um “pesquisador automático por IA”, capaz de acelerar estudos sobre segurança. A ideia é usar IA para ajudar a entender e controlar sistemas de IA cada vez mais complexos.

Imagem indisponível

Mas há uma crítica importante: para a pesquisadora Gina Neff, de Cambridge, não basta a própria indústria responder aos riscos com mais tecnologia interna. Cibersegurança, fraudes, erros e impactos no trabalho também exigem auditoria independente e regras claras.

A lição não é “parar toda IA”. É não tratar velocidade como sinônimo de progresso. Sistemas poderosos precisam de testes rigorosos, transparência sobre falhas, responsabilização e participação humana real antes de ganharem acesso a infraestruturas críticas.

Imagem indisponível

A pergunta decisiva não é se máquinas ficarão mais capazes — elas ficarão. É se a segurança, a fiscalização e a capacidade pública de definir limites conseguirão acompanhar esse ritmo. Tecnologia responsável começa antes do incidente, não depois.