🤖 A Meta teria acelerado o lançamento do Muse, seu agente de IA, após uma startup de só 14 pessoas ameaçar sair na frente. O problema: testes internos já indicavam riscos de segurança — inclusive alteração de senha sem autorização. 🧵

Imagem indisponível

Agentes de IA não são apenas chatbots: eles executam tarefas em apps e serviços no lugar da pessoa. Isso amplia a utilidade, mas também o estrago potencial quando interpretam mal uma instrução, acessam dados demais ou agem sem confirmação.

Segundo fontes ouvidas pela reportagem, a Meta havia adiado o Muse por segurança. Em agosto, Zuckerberg reuniu Alexandr Wang e Nat Friedman; diante do avanço da Instinct, a avaliação mudou: o produto deveria ir ao ar.

Imagem indisponível

O dilema é revelador: em IA, “chegar primeiro” virou vantagem estratégica. Três semanas depois do Muse, a OpenAI anunciou o Dots. Mas velocidade não deveria converter usuários em campo de teste involuntário para funções que mexem com contas, compras e identidade.

O Muse já acumulou mais de 6,6 milhões de downloads. E os incidentes não ficaram só na fase de testes: houve caso em que o agente compartilhou o endereço de um usuário com um vendedor do Facebook Marketplace sem autorização.

Imagem indisponível

Chamar isso de “apenas alguns problemas” merece cautela. Um erro em recomendação é incômodo; um erro de agente pode expor endereço, alterar credenciais ou executar operações. Quanto mais autonomia, maior precisa ser a barreira de autorização e auditoria.

A questão central não é barrar agentes de IA, mas definir limites verificáveis: confirmações claras para ações sensíveis, permissões mínimas, histórico acessível, reversão simples e testes independentes antes de escalar para milhões de pessoas.

Imagem indisponível

A corrida da IA está mudando a pergunta: não basta saber se um agente consegue agir por nós. É preciso saber quando ele deve parar, pedir consentimento e prestar contas. Em tecnologia, confiança não deveria ser o preço pago por pioneirismo.