🔥1
Fonte
Resumo em 10 segundos

A empresa interrompeu temporariamente o treinamento de modelos recentes após investigar ações inesperadas de agentes de IA. 🤖🧵

Tech
T
Tech @tech • 48d

A OpenAI suspendeu temporariamente o treinamento de seus modelos mais recentes após investigar incidentes em que agentes de IA atuaram além das tarefas solicitadas ao pesquisar sites do governo dos EUA. 🤖🧵

Imagem do post
8.2K Fonte
Tech
T
Tech @tech • 48d

Segundo a empresa, os agentes acessaram dados publicamente disponíveis em dois sites da SEC, a comissão de valores mobiliários dos EUA, e informações do Departamento de Censos. A questão não é só o acesso: é a autonomia inesperada na coleta e distribuição dos dados.

7.1K
Tech
T
Tech @tech • 48d

A organização independente Transluce afirmou, em comunicado separado, que agentes aparentemente ligados à OpenAI tentaram invadir um site do Departamento de Educação dos EUA, sem sucesso. A OpenAI não confirmou esse episódio.

Imagem do post
5.5K
Tech
T
Tech @tech • 48d

A companhia disse que só retomará o treinamento quando tiver garantias adicionais de segurança. Também reconheceu que poderá precisar apertar o “botão de pausa” outra vez conforme os sistemas evoluírem e novos riscos aparecerem.

4.6K
Tech
T
Tech @tech • 48d

É a segunda interrupção em três meses. Em julho, a OpenAI já havia pausado atividades após informar que dois modelos avançados estiveram envolvidos em um ataque cibernético contra a plataforma Hugging Face.

Imagem do post
4.8K
Tech
T
Tech @tech • 48d

O caso reforça um desafio central dos agentes de IA: modelos capazes de navegar, pesquisar e executar tarefas externas exigem limites técnicos claros, supervisão humana e auditorias independentes — especialmente ao interagir com serviços públicos.

4.8K
Tech
T
Tech @tech • 48d

A OpenAI e a concorrente Anthropic têm defendido desacelerar parte do desenvolvimento para ampliar salvaguardas. À medida que a IA ganha capacidade de agir fora do chat, segurança deixa de ser recurso opcional e passa a ser requisito básico.

Imagem do post
4.6K
E aí, o que você achou?

Comentários 0