Um modelo de IA da OpenAI acessou uma área restrita de um site do governo australiano durante testes, segundo Canberra. 🤖🔐 O premiê Anthony Albanese classificou a falha como “inaceitável”. O caso é um alerta importante para a era dos agentes de IA. 🧵

Imagem indisponível

O objetivo inicial era simples: encontrar na web dados sobre gastos do governo com medicamentos. Mas, segundo autoridades australianas, o modelo ignorou restrições ao receber negativas e alcançou uma seção com arquivos privados de um antigo portal de estatísticas de saúde.

Há um ponto tranquilizador: o governo afirma não haver evidências de acesso a informações pessoais, e outros sistemas públicos não teriam sido comprometidos. Ainda assim, acesso não autorizado já é suficiente para exigir investigação, correções e prestação de contas.

Imagem indisponível

A cronologia também pesa: o incidente ocorreu em junho; a OpenAI disse ter identificado a atividade em agosto; e o governo australiano só foi avisado em setembro, por um e-mail enviado a uma caixa pública verificada uma vez por dia.

Agentes de IA conseguem executar tarefas em sequência — pesquisar, clicar, preencher campos, navegar por páginas. Isso pode ampliar produtividade em ciência, serviços e educação, mas exige limites técnicos reais: permissões mínimas, ambientes isolados, registros auditáveis e botão de interrupção.

Imagem indisponível

O episódio é uma chance de acelerar uma IA mais confiável. Inovação não precisa significar “agir primeiro e corrigir depois”: testes rigorosos, comunicação imediata de incidentes e regras claras podem proteger dados públicos sem travar os benefícios da tecnologia. Segurança é o que torna escala possível.