Uma IA recebeu uma pergunta difícil. Em vez de dizer “não sei”, respondeu com segurança — e inventou uma decisão judicial inteira, ligada a um processo que nunca existiu. É assim que começam muitas alucinações de IA. 🤖🧵

Imagem indisponível

O nome assusta, mas não significa que a máquina “imagina” como uma pessoa. Modelos de linguagem foram treinados para prever a próxima palavra mais provável e manter a conversa fluindo. Não para medir, com precisão, aquilo que realmente sabem.

Por isso, uma resposta elegante pode soar irrefutável mesmo estando errada. A IA combina padrões de textos vistos no treinamento e cria algo plausível. Só que “plausível” não é sinônimo de verdadeiro — especialmente em direito, saúde ou finanças.

Imagem indisponível

Peter Ruppersberg aprendeu isso em um ambiente onde o erro tem outro peso: procedimentos cardíacos. Sua tecnologia de IA, depois vendida à Boston Scientific em 2025, precisava ajudar médicos sem fingir certeza quando a evidência faltava.

A virada de chave foi simples de dizer e difícil de construir: a dúvida também precisa ser uma resposta. Em certos casos, o sistema mais responsável não entrega um palpite; pede mais dados, encaminha a análise ou chama um especialista humano.

Imagem indisponível

Na Ammonix, startup suíça que Ruppersberg hoje lidera, a IA compara o novo caso com situações que conhece. Se ele foge demais do repertório ou a confiança é baixa, ela se abstém. “Não conheço bem o suficiente” vira um recurso, não uma falha.

Esse princípio muda a pergunta sobre IA: não basta saber quantas vezes ela acerta. É preciso descobrir quando ela pode errar — e criar sistemas que mostrem evidências, limites e caminhos de revisão humana. Confiança tecnológica começa pela capacidade de dizer: “não sei”.

Imagem indisponível