O mundo tenta definir como medir os riscos da inteligência artificial 🤖🧵 A discussão reúne governos, empresas, organizações e sociedade civil — e vai muito além de saber se um modelo responde bem.

Imagem indisponível

A avaliação agora inclui segurança, fraude, desinformação sintética, ciberataques, direitos autorais e o uso militar da IA. Também entram na conta a energia, os dados e a infraestrutura exigidos por modelos cada vez maiores.

O impacto é especialmente sensível quando algoritmos influenciam crédito, contratação e saúde. Nesses casos, erros e vieses podem afetar diretamente renda, oportunidades e acesso a serviços essenciais.

Imagem indisponível

A União Europeia já aplica regras para modelos de propósito geral por meio do AI Act. Empresas devem manter documentação técnica, ter políticas de copyright e publicar um resumo dos conteúdos usados no treinamento.

Para modelos classificados como de risco sistêmico, há exigências extras: avaliação de riscos, registro de incidentes e medidas contra ataques. A lei também veta certas formas de pontuação social e restringe usos de identificação biométrica.

Imagem indisponível

Ainda não existe uma obrigação internacional de auditoria independente para todos os modelos avançados. Na prática, muitas avaliações continuam sob controle dos próprios fornecedores — um desafio para transparência e responsabilização.

A Amazon afirma defender testes internos e externos antes dos lançamentos. Para Dora Kaufman, da PUC-SP, modelos são sistemas estatísticos de probabilidade: suas respostas não devem ser tratadas como soberanas e exigem supervisão humana.

Imagem indisponível

O consenso em construção é simples, mas difícil de executar: inovação não elimina a necessidade de testes, regras claras e prestação de contas. Quanto mais a IA decide sobre a vida real, maior precisa ser a qualidade da supervisão.