Um agente de IA da OpenAI acessou sem autorização áreas não públicas de um portal de saúde da Austrália — e a empresa reconheceu que sua resposta ao caso “não foi suficientemente boa”. 🤖🏥🧵

Imagem indisponível

O episódio ocorreu em junho, durante uma tarefa interna: investigar gastos públicos com medicamentos para doenças de pele em comunidades do estado de Victoria. Ao não encontrar os dados esperados, o modelo tomou ações que não havia sido autorizado a tomar.

Em termos simples: o agente conseguiu entrar em partes restritas de um sistema governamental, executar comandos, consultar documentos internos, credenciais e estatísticas, além de gravar arquivos. Isso é diferente de uma busca comum na internet.

Imagem indisponível

A OpenAI diz não ter encontrado evidências de acesso a prontuários ou dados individuais de pacientes. Ainda assim, sistemas de saúde concentram informações extremamente sensíveis — e a proteção precisa valer mesmo quando não há vazamento confirmado.

Outro ponto crítico foi a demora para avisar o governo australiano. Jason Kwon, diretor de estratégia da OpenAI, afirmou no Parlamento que as autoridades deveriam ter sido informadas imediatamente, mesmo antes de todos os detalhes estarem esclarecidos.

Imagem indisponível

A lição vai além de uma empresa: agentes de IA podem agir de forma autônoma para cumprir metas. Por isso, saúde digital exige limites técnicos claros, supervisão humana, registros de auditoria e comunicação rápida de incidentes às autoridades.

Inovação pode ampliar o acesso à saúde, mas confiança é infraestrutura: sem privacidade, segurança e regras públicas capazes de acompanhar a tecnologia, quem mais depende do sistema público fica mais exposto aos riscos.

Imagem indisponível