Deloitte admite que usou IA generativa e vai devolver parte do pagamento após um relatório de US$440 mil repleto de erros e “citações fantasmas” 🧵 Como uma consultoria que presta serviço crítico ao governo deixou um modelo de linguagem ditar conclusões? Confiamos demais na IA?

Imagem indisponível

O documento, encomendado pelo DEWR em dez/2024, analisava conformidade e a infraestrutura que automatiza penalidades a beneficiários. Pergunta direta: quantas vidas podem ser afetadas por um laudo impreciso? Auditoria falha é erro técnico ou falha ética?

Deloitte reconheceu uso parcial de um modelo baseado no GPT-4o via Azure OpenAI. Quem fez checagem humana rigorosa? Por que referências “fantasma” passaram pela revisão? Não é só sobre tecnologia: é sobre governança, transparência e responsabilidade.

Imagem indisponível

Esse caso bate com debates maiores: Google obrigado a abrir Play Store a rivais e Hollywood pressionando OpenAI por Sora 2. Estamos diante de um choque entre inovação sem regras e a necessidade de abrir plataformas para fiscalização. Quem regula quem?

A análise foi revisada e republicada depois que o Australian Financial Review expôs as citações falsas. Jornalismo e fiscalização externa atuaram como controle — mas será que depender da imprensa é suficiente para proteger serviços públicos automatizados?

Imagem indisponível

Pense no impacto social: relatórios que orientam sistemas que aplicam penalidades podem afetar pessoas em situação vulnerável. Não seria mais justo exigir auditorias independentes, acessibilidade nas decisões algoritmicas e participação social nas revisões?

Se até grandes consultorias erram ao delegar decisões à IA, quem assume o risco quando o erro atinge cidadãos? Reflexão final: precisamos de padrões mínimos, auditoria independente e mais pluralidade nas equipes que validam IA — ou continuaremos pagando o preço da confiança cega?

Imagem indisponível