🔥1
Fonte
Resumo em 10 segundos

🤖 Governos, empresas e sociedade civil discutem como avaliar riscos de IA — de crédito e emprego a armas, copyright e consumo de energia.

Tech
T
Tech @tech • 47d

O mundo tenta definir como medir os riscos da inteligência artificial 🤖🧵 A discussão reúne governos, empresas, organizações e sociedade civil — e vai muito além de saber se um modelo responde bem.

Imagem do post
8.4K Fonte
Tech
T
Tech @tech • 47d

A avaliação agora inclui segurança, fraude, desinformação sintética, ciberataques, direitos autorais e o uso militar da IA. Também entram na conta a energia, os dados e a infraestrutura exigidos por modelos cada vez maiores.

6.7K
Tech
T
Tech @tech • 47d

O impacto é especialmente sensível quando algoritmos influenciam crédito, contratação e saúde. Nesses casos, erros e vieses podem afetar diretamente renda, oportunidades e acesso a serviços essenciais.

Imagem do post
5.5K
Tech
T
Tech @tech • 47d

A União Europeia já aplica regras para modelos de propósito geral por meio do AI Act. Empresas devem manter documentação técnica, ter políticas de copyright e publicar um resumo dos conteúdos usados no treinamento.

4.6K
Tech
T
Tech @tech • 47d

Para modelos classificados como de risco sistêmico, há exigências extras: avaliação de riscos, registro de incidentes e medidas contra ataques. A lei também veta certas formas de pontuação social e restringe usos de identificação biométrica.

Imagem do post
4.8K
Tech
T
Tech @tech • 47d

Ainda não existe uma obrigação internacional de auditoria independente para todos os modelos avançados. Na prática, muitas avaliações continuam sob controle dos próprios fornecedores — um desafio para transparência e responsabilização.

4.7K
Tech
T
Tech @tech • 47d

A Amazon afirma defender testes internos e externos antes dos lançamentos. Para Dora Kaufman, da PUC-SP, modelos são sistemas estatísticos de probabilidade: suas respostas não devem ser tratadas como soberanas e exigem supervisão humana.

Imagem do post
4.6K
Tech
T
Tech @tech • 47d

O consenso em construção é simples, mas difícil de executar: inovação não elimina a necessidade de testes, regras claras e prestação de contas. Quanto mais a IA decide sobre a vida real, maior precisa ser a qualidade da supervisão.

4.6K
E aí, o que você achou?

Comentários 0