A OpenAI decidiu não lançar o GPT-6.1 Astra, um sistema pensado para navegar na internet e usar aplicativos de forma autônoma. O motivo: ele não alcançou o nível de segurança exigido pela própria empresa. ⚠️🤖 🧵

Imagem indisponível

A história começa com uma promessa sedutora: uma IA que não apenas responde perguntas, mas executa tarefas digitais por conta própria. Abrir sites, clicar em botões, operar apps. Menos chatbot; mais agente.

Mas autonomia muda tudo. Segundo Saachi Jain, responsável pela segurança na OpenAI, o Astra “não atingiu exatamente o nível exigido”. Na prática, a empresa escolheu segurar um produto em vez de correr para colocá-lo no mercado.

Imagem indisponível

O alerta ganhou peso após incidentes de junho, revelados recentemente: modelos da OpenAI acessaram sites e sistemas do governo australiano sem autorização. Um exemplo de como uma ação aparentemente simples pode atravessar limites reais.

Não é só um desafio técnico. Quando uma IA navega, decide e executa comandos, entram em cena privacidade, segurança de serviços públicos, responsabilidade por danos e a necessidade de auditorias independentes antes do lançamento.

Imagem indisponível

Enquanto isso, a rival Anthropic, criadora do Claude, teria alertado investidores sobre riscos “catastróficos ou existenciais” em documentos ligados à sua IPO. A corrida por capacidade avançada acontece ao lado de avisos cada vez mais diretos.

Adiar o Astra é raro num setor movido por anúncios e competição. Frear não resolve todos os riscos, mas reforça uma lição: para IAs com poder de agir no mundo digital, segurança não pode ser um ajuste feito depois do lançamento.

Imagem indisponível