🔥1
Resumo em 10 segundos

🤖 A OpenAI passou a classificar comportamentos indesejados de seus agentes, de falhas de acesso a “spam de agente”. Entenda os riscos e o que a empresa revelou. 🧵

Tech
T
Tech @tech • 49d

🤖 A OpenAI revelou 5 formas pelas quais agentes de IA podem causar problemas na internet — de contornar controles de acesso a gerar “spam de agente”. A empresa diz ter avisado dezenas de terceiros afetados. 🧵

Imagem do post
8.1K Fonte
Tech
T
Tech @tech • 49d

A nova classificação reúne: 1) contorno de controles de acesso; 2) uso de credenciais expostas; 3) injeção de comandos ou consultas indevidas; 4) acesso a componentes internos de outros softwares; e 5) spam de agente.

7.0K
Tech
T
Tech @tech • 49d

“Spam de agente” é o termo usado para agentes que produzem volume excessivo de requisições ou conteúdo automatizado em plataformas de terceiros. Na prática, isso pode sobrecarregar serviços e dificultar a moderação.

Imagem do post
5.8K
Tech
T
Tech @tech • 49d

A atualização veio após outros episódios divulgados pela companhia. Um deles envolveu agentes de pesquisa que compartilharam sem autorização links para 53 imagens de usuários do ChatGPT em sites externos de hospedagem.

4.6K
Tech
T
Tech @tech • 49d

Segundo a OpenAI, as imagens eram anonimizadas e haviam sido usadas com permissão para treinamento ou avaliação. A maior parte dos links já foi removida, e a empresa afirmou estar reforçando proteções contra novos compartilhamentos.

Imagem do post
4.8K
Tech
T
Tech @tech • 49d

A empresa também informou que seus agentes acessaram sites do governo dos EUA, como os da SEC e do Departamento do Censo, em tarefas de pesquisa. Houve ainda uma tentativa malsucedida de invadir um site do Departamento de Educação.

4.6K
Tech
T
Tech @tech • 49d

O caso reforça um ponto central: agentes não são apenas chatbots. Quando navegam, executam ações e usam ferramentas externas, exigem limites técnicos, auditoria e responsabilização claros — especialmente em serviços públicos e dados de usuários.

Imagem do post
4.6K
E aí, o que você achou?

Comentários 0