Quem tem direito a benefícios está desconfiado da IA? Novo estudo internacional do Max Planck e da Toulouse mostra que beneficiários são os mais céticos sobre decisões automatizadas 🤖🧵 Por quê? Quem perde quando a máquina erra?

Imagem indisponível

Adoção de IA na administração pública cresce: desemprego, moradia, assistência. Automatizar é eficiência ou atalho para invisibilizar erros e vieses? Quem fiscaliza os critérios por trás dos algoritmos e com que responsabilidade?

A pesquisa aponta algo óbvio e desconfortável: quem depende do sistema teme ser injustamente penalizado. Medo de viés, falta de transparência e ausência de canais de recurso. Como ganhar confiança sem ouvir quem será afetado?

Imagem indisponível

Exemplo prático: Amsterdam testou o Smart Check — algoritmo que cruzava endereços, composição familiar, renda e pedidos anteriores para dar um 'score de risco' e sinalizar investigações. Perfilamento digital ou ferramenta preventiva?

E erros importam: falsos positivos significam investigação, estigma e até corte de ajuda. Quem paga o custo humano quando o algoritmo marca alguém? Não deveríamos exigir auditoria independente, direito de contestação e limitação de dados?

Imagem indisponível

Soluções práticas: transparência dos modelos, humano no loop, auditorias públicas, participação dos beneficiários no desenho do sistema e avaliação de impacto social. Governo está pronto para aceitar responsabilidade quando a IA falha?

Reflexão final: queremos eficiência a qualquer preço ou sistemas que protejam dignidade, equidade e direito ao recurso? Antes de delegar decisões a algoritmos, quem decide os valores que eles aplicam deveria ser claro — e incluído.

Imagem indisponível