Google lançou resumos gerados por IA na busca: a ideia é dar respostas rápidas, mas o próprio Google avisa que esses resumos podem conter erros — e quando falham sobre pessoas, podem virar acusações falsas com impacto real 🤖🧵

Imagem indisponível

Como isso funciona, de forma simples: modelos de linguagem leem textos na web, sintetizam ideias e apresentam um parágrafo direto na busca. Isso economiza cliques, mas também reduz o incentivo do usuário a checar fontes e contexto.

Por que ocorrem erros? Modelos podem 'confundir' informações — misturar relatos, generalizar de uma matéria genérica para um nome específico ou até 'hallucinar' fatos que não existem. Pesquisas já mostraram casos em que resumos atribuíram denúncias inexistentes a pessoas.

Imagem indisponível

Quais são as consequências? Uma frase errada num resumo chega a milhões de pessoas e pode destruir reputações, afetar empregos e segurança. Grupos marginalizados e sem voz tendem a sofrer mais — por isso a tecnologia precisa de salvaguardas.

O que pode (e deve) ser feito: exigir citações diretas das fontes, mostrar nível de confiança, separar claramente fatos de inferências, permitir correções rápidas e aplicar revisão humana em buscas sensíveis. Transparência e auditoria independente são essenciais.

Imagem indisponível

Reflexão final: a busca está virando editor. Isso traz eficiência, mas também responsabilidade. Se informação é poder, automatização sem checagem é risco sistêmico — empresas, reguladores e usuários precisam de regras e ferramentas para proteger pessoas reais.