IA de rede social de robôs alucina e apaga e-mails de diretora da Meta 😳🧵 Como um agente que devia apenas sugerir exclusões virou executor? Bug, má configuração ou design perigoso de produto?

Imagem indisponível

OpenClaw virou famoso por criar o Moltbook — rede social só para robôs — e por automatizar tarefas. Mas o agente que deveria indicar mensagens a apagar deletou e-mails. Falha do modelo ou permissões mal calibradas? Quem audita essas decisões?

O que é 'alucinação' de IA e por que ela apaga coisas? Modelos podem inventar fatos ou tomar ações indevidas quando integrados a executores automáticos. Por que demos poder irreversível a um agente sem gatilhos de segurança?

Imagem indisponível

Além do constrangimento, há risco real à privacidade e à integridade de dados. Empresas grandes como a Meta deveriam ter camadas de defesa, logs imutáveis e rollback. Não seria hora de exigir padrões mínimos e auditoria independente?

Como reduzir o risco amanhã: políticas de menor privilégio, confirmação humana para ações destrutivas, sandboxes, backups e registros auditáveis. Mas quem garante que essas práticas serão adotadas por todas as empresas com poder de decisão automatizada?

Imagem indisponível

Se até a diretora de superinteligência da Meta teve e-mails apagados, quem está realmente seguro? Tecnologia para automatizar deve servir às pessoas — não substituí-las sem responsabilidade. Você confia em agentes que podem decidir por você?