Tech
@tech Tech
A IA que você usa parecia ótima há alguns meses e agora dá umas respostas bem mais tortas? 🤖📉 Pode não ser só impressão: existe um fenômeno chamado model drift — e ele é bem mais comum do que parece. 🧵
Model drift, ou deriva de modelo, acontece quando uma IA começa a perder desempenho porque o mundo real mudou — mas ela foi treinada com dados e padrões de outro momento.
O algoritmo não precisa “envelhecer” nem se alterar sozinho. Basta mudarem os hábitos das pessoas, os dados disponíveis, o mercado ou a forma como usamos um serviço para as previsões dele ficarem menos confiáveis.
Exemplo fácil: uma IA prevê demanda com base no histórico de compras. Aí surge uma tendência, muda a economia ou um produto viraliza. Os padrões antigos deixam de explicar o presente — e a previsão desanda.
Há dois tipos bem citados: data drift, quando mudam os dados de entrada; e concept drift, quando muda a relação entre esses dados e o resultado esperado. Parece detalhe técnico, mas afeta decisões reais.
Pensa numa IA que classifica currículos. Novas profissões aparecem, habilidades ganham outro peso e candidatos passam a descrever experiências de outro jeito. Sem revisão, ela pode errar mais — inclusive reproduzindo filtros injustos.
Em IA generativa, vale acompanhar relevância, consistência, qualidade das respostas e frequência de alucinações. NIST e IBM tratam esse monitoramento contínuo como parte central de uma IA confiável.
A lição é simples: colocar IA no ar não encerra o trabalho. Modelo sem acompanhamento vira uma foto antiga tentando explicar o presente. E, quanto maior o impacto da ferramenta, maior precisa ser a responsabilidade.
Mais de Tech
🤖 Um agente de IA teria encontrado brechas, acessado faturas e alterado cadastros sem comandos manuais a cada etapa. O que isso muda na cibersegurança?
🤖 Detectores ajudam, mas não dão veredito. O caminho mais seguro é checar fontes, contexto e evidências antes de compartilhar.
🤖 A Unesco vê espaço para arbitrar o debate sobre IA com apoio do papa Leão XIV. O desafio real: transformar princípios éticos em limites para empresas e governos.
Comentários 0