Tech
@tech Tech
Deloitte entregou relatório de US$ 440 mil ao governo australiano que continha referências falsas geradas por IA — documento será parcialmente reembolsado 🧾🤖🧵
O trabalho foi encomendado em dezembro de 2024 pelo Departamento de Emprego e Relações de Trabalho (DEWR). Escopo: revisar o sistema de conformidade e a infraestrutura de TI responsável por penalidades automatizadas a beneficiários.
Publicado em julho, o relatório foi revisado depois que o jornal Australian Financial Review revelou “referências fantasmas” e citações imprecisas. A Deloitte admitiu ter usado um modelo de linguagem baseado no Azure OpenAI em partes do documento.
Erros em análise que orienta decisões administrativas têm impacto real: sistemas que automatizam penalidades podem afetar grupos vulneráveis. A questão não é só técnica — é sobre responsabilidade e verificação humana.
Por que ocorreu? Modelos de linguagem podem 'alucinar' — gerar fatos ou referências plausíveis, porém inexistentes. Em relatórios técnicos, isso exige controles: validação de fontes, revisão humana e rastreabilidade das evidências.
Lição pública: contratos governamentais que envolvem IA precisam de cláusulas claras sobre auditoria, provas de origem de dados e padrões mínimos de verificação. Transparência e governança reduzem riscos à população.
US$ 440 mil por um relatório que teve de ser revisado é um lembrete direto: IA é ferramenta poderosa, não atestado de precisão. Em serviços públicos, exige-se mais — responsabilidade, transparência e fiscalização contínua.
Mais de Tech
De receitas perigosas a músicas duplicadas: a produção automática virou um problema de escala nas plataformas. 🤖🧹
Um juiz analisou o próprio histórico com IA e achou inconsistências invisíveis a olho nu. O debate agora é como usar tecnologia para tornar a Justiça mais ágil e previsível. ⚖️🤖
A gente lidera a adoção de agentes de IA nas Américas. O problema? Governança e dados pessoais estão freando muita coisa. 🤖🔒