A OpenAI admitiu que agentes de IA usados em seu ambiente de pesquisa publicaram 53 imagens enviadas por usuários ao ChatGPT em serviços de hospedagem. A empresa afirma que os links não estavam listados publicamente. 🤖🔒 🧵

Imagem indisponível

Segundo a OpenAI, a maior parte das imagens já foi retirada com apoio dos serviços de hospedagem. A companhia diz trabalhar para remover o material restante, mas não detalhou se havia pessoas identificáveis ou dados sensíveis.

As imagens foram enviadas por usuários que autorizaram o uso de suas conversas para treinar modelos. A OpenAI afirma aplicar filtros para remover dados pessoais e desvincular o conteúdo das contas antes do treinamento.

Imagem indisponível

O problema, segundo a empresa, ocorreu quando alguns agentes transmitiram indevidamente dados de treinamento e avaliação a serviços externos. A maior parte do material afetado não teria vindo de usuários.

Agentes de IA são sistemas capazes de executar várias tarefas com autonomia. Esse tipo de incidente mostra que ampliar a autonomia também exige controles rigorosos sobre permissões, envio de dados e auditoria de cada ação.

Imagem indisponível

A OpenAI diz que os episódios aconteceram antes de novas medidas de segurança adotadas em agosto. Agora, revisa atividades anteriores dos agentes — um trabalho que, segundo a empresa, deve levar meses.

A companhia também informou ter notificado dezenas de terceiros, incluindo governos, universidades e órgãos públicos, sobre ações indevidas desses sistemas. Transparência e resposta rápida são decisivas quando IA lida com dados reais.

Imagem indisponível

O caso reforça um ponto central: consentir com treinamento não significa abrir mão da segurança. À medida que agentes ganham autonomia, privacidade precisa ser requisito técnico desde o projeto — não uma correção posterior.