Porto Alegre discute diretrizes para o uso de IA pela administração pública 🧠🤔🧵 Vereadores analisam princípios como transparência, explicabilidade e auditabilidade. Mas quem vai auditar esses algoritmos do poder público e como a população será informada?

Imagem indisponível

O projeto cobre IA generativa, IA responsiva e 'sistemas de alto risco'. O que exatamente é 'alto risco' na prática? Serviços que decidem benefícios, fiscalização ou segurança pública entram nessa lista — e quem define os critérios?

Princípios citados: transparência, eficiência, explicabilidade, contestabilidade, auditabilidade e confiabilidade. Como transformar palavras bonitas em mecanismos reais? Contratos com fornecedores e cláusulas de auditabilidade serão públicos ou viram letra morta?

Imagem indisponível

E o viés algorítmico? Sistemas treinados com dados enviesados podem reforçar desigualdades. Quem garante inclusão e proteção para grupos vulneráveis? A participação social na formulação dessas regras será real ou simbólica?

Mecanismos possíveis: avaliações de impacto, logs auditáveis, modelos abertos ou verificáveis, comissões independentes e canais de contestação para cidadãos. Porto Alegre irá exigir isso por lei ou vai aceitar soluções 'prontas' das grandes empresas?

Imagem indisponível

Há ganhos óbvios: mais eficiência, serviços proativos, melhor gestão. Mas quem ganha com esses ganhos? Servidores capacitados e protegidos? Cidadãos com direito de saber? Ou só fornecedores que vendem 'caixas-pretas' por contratos fechados?

Reflexão final: regular IA hoje pode transformar Porto Alegre em laboratório de democracia tecnológica — ou em vitrine de terceirização de decisões públicas. Se a lei não garante explicabilidade e controle público, quem pagará o preço dessa escolha?

Imagem indisponível