Por que a IA precisa aprender a dizer 'não sei' 🤖🧵 Modelos como ChatGPT e Gemini às vezes inventam fatos — não por maldade, mas por como foram treinados. Vem entender por que o “não sei” é crucial e o que isso muda no nosso uso da IA.

Como esses chatbots funcionam? Eles são modelos de linguagem que prevêem a próxima palavra com base em probabilidades — montam respostas palavra a palavra seguindo o padrão mais provável, não uma “verdade” checada.

Isso explica as chamadas "alucinações": se muitos textos de treinamento colocaram 'Senna' e 'Interlagos' juntos, o modelo pode achar plausível juntar os dois numa resposta — mesmo que seja factualmente errado.

Soluções técnicas: estimar incerteza, usar RAG (buscar evidências externas), reforçar com feedback humano e ensinar o modelo a se abster quando não houver confiança. Transparência nas fontes faz toda diferença.

Impacto social: educação, jornalismo e saúde sofrem quando IA dá respostas erradas. Empresas como OpenAI e Google têm responsabilidade técnica e ética — e políticas públicas bem pensadas podem proteger usuários e diversificar o acesso à verificação.

Reflexão final: uma IA poderosa que admite limites é mais útil e confiável. Exigir modelos que digam “não sei” quando necessário ajuda a democratizar informação e reduzir danos — é uma melhoria prática, não um retrocesso.