🤖 A IA usada pela Agems, agência que regula serviços públicos em MS, agora terá regras claras: proteção de dados, prevenção de discriminação e supervisão humana conforme o risco. O objetivo é usar tecnologia sem deixar direitos dos usuários em segundo plano. 🧵

Imagem indisponível

Na prática, a portaria vale para sistemas de IA empregados na fiscalização, no monitoramento de serviços regulados e na gestão interna da agência. Não é só “usar IA”: cada projeto precisa demonstrar por que ela é necessária e como será controlada.

1) Dados pessoais só poderão ser usados no limite do necessário. A regra abrange todo o ciclo: coleta, acesso, armazenamento, compartilhamento e conservação. É o princípio de “privacidade desde a concepção”: proteger antes de o sistema entrar em operação.

Imagem indisponível

2) Nos testes, a prioridade é usar dados anonimizados, agregados ou sintéticos. Em termos simples: em vez de testar uma ferramenta com informações reais identificáveis, usam-se dados que não apontam para pessoas específicas — quando isso for possível.

3) Projetos mais sensíveis terão avaliação prévia de privacidade. E, se uma solução puder afetar direitos ou interesses de usuários e empresas reguladas, a presença humana deverá aumentar proporcionalmente ao risco.

Imagem indisponível

Por que isso importa? Um algoritmo pode ajudar a identificar falhas em serviços, mas também pode reproduzir erros dos dados usados no treinamento. Por isso, a norma exige qualidade e confiabilidade dos dados, avaliação de riscos e prevenção de efeitos adversos.

A portaria também fala em rastreabilidade, transparência e explicabilidade quando aplicáveis. Ou seja: decisões relevantes precisam poder ser acompanhadas e, quando necessário, explicadas — algo essencial para contestar erros e evitar uma “caixa-preta” estatal.

Imagem indisponível

A regra assinada por Carlos Alberto de Assis aponta um caminho importante: IA no poder público não deve ser sinônimo de automação sem freios. Tecnologia bem aplicada amplia eficiência; com governança, ela também preserva privacidade, equidade e possibilidade de revisão humana.