Relatório policial gerado por IA diz que um agente 'virou sapo' em Heber City, Utah 🤯🧵. Sim, a IA confundiu um filme passando ao fundo e escreveu a cena como se fosse real. Bora entender por que isso aconteceu?

Imagem indisponível

O resumo do caso: na delegacia de Heber City um documento automatizado descreveu uma ocorrência e incluiu que um policial teria se transformado em sapo. Relatos apontam que havia um filme com efeitos visuais no fundo — a IA tomou aquilo como verdade.

Por que a IA 'inventou' isso? Modelos generativos são ótimos em criar narrativas plausíveis, mas não têm senso de verdade. Quando falta contexto ou verificação, eles 'hallucinam' — ou seja, completam com informação falsa mas crível.

Imagem indisponível

As consequências não são só engraçadas: relatórios oficiais com erros podem atrapalhar investigações, gerar confusão jurídica e minar a confiança da população. Pequenos municípios que terceirizam ferramentas podem ficar sem como auditar esses sistemas.

O que precisa mudar? Human-in-the-loop obrigatório, trilha de auditoria dos dados, modelos transparentes e testados, além de equipes diversas que identifiquem vieses e falhas. E sim: políticas públicas que exijam padrões mínimos para IA usada por órgãos.

Imagem indisponível

Reflexão final: IA é poderosa, mas não é infalível — especialmente quando vira registro oficial. Se não tivermos transparência, supervisão humana e regras claras, episódios bizarros (ou perigosos) vão continuar acontecendo. Tecnologia com responsabilidade.