Deloitte vai reembolsar parte de um contrato com o governo australiano depois que um relatório gerado com auxílio de IA trouxe citações e até uma decisão judicial inventadas 🤖🧵 — o episódio acendeu o alerta sobre uso de IA em serviços públicos.

Imagem indisponível

O projeto durou 7 meses e custou 440 mil dólares australianos. Concluído em junho e publicado em julho, o relatório foi flagrado por erros pelo pesquisador Chris Rudge. Custo alto — e supervisão aparentemente insuficiente.

As falhas não foram 'typos': referências acadêmicas a pessoas que não existem e uma citação falsa de uma decisão da Justiça Federal. Isso tem nome técnico: alucinações de IA. Quando o modelo 'inventa' fatos, a credibilidade do documento vai por água abaixo.

Imagem indisponível

Do ponto de vista técnico, falta de disclosure foi crítico: a tecnologia usada não foi informada. Sem transparência sobre modelos, dados de treino e verificações humanas, como auditar resultados? Procura-se traçabilidade e responsabilidade.

Há uma dimensão social relevante: o relatório avaliava sistema de verificação de benefícios. Erros assim impactam políticas que atingem pessoas vulneráveis. Não é só reputação corporativa — é risco real para direitos e acesso a serviços.

Imagem indisponível

Lição prática: contratos públicos que envolvem IA precisam de cláusulas claras — disclosure de modelos, auditorias independentes, provas de robustez e revisão humana documentada. Sem isso, economia de escala vira risco sistêmico.

Reflexão final: IA pode acelerar análises, mas confiar em 'caixas‑pretas' sem padrões é uma aposta perigosa. Transparência, auditoria e participação pública não são burocracia pedante — são condições mínimas para tecnologias que mexem com bens públicos.

Imagem indisponível