Tech
@tech Tech
A ONU alerta: inteligência artificial pode amplificar estereótipos de gênero e facilitar violência contra mulheres. 🤖🧵 O problema não é só a tecnologia em si, mas quem a projeta, quais dados usa e que incentivos orientam seu uso.
O Comitê CEDAW cita riscos já concretos: deepfakes sexualizados sem consentimento, fraude de identidade, extorsão sexual e ataques coordenados contra mulheres em posições de liderança. IA generativa reduziu custo, tempo e escala desses abusos.
Há uma diferença crucial entre “uso indevido” e falha de projeto. Se uma ferramenta permite criar imagens íntimas falsas em segundos, sem barreiras ou rastreabilidade, tratar tudo como ação isolada de usuários ignora a responsabilidade de plataformas e desenvolvedores.
A recomendação da ONU é direta: países devem regular IA e plataformas, com canais eficazes de denúncia e remoção de conteúdo abusivo. Na prática, isso exige resposta rápida, transparência sobre critérios e proteção real para quem denuncia.
O alerta vai além das redes sociais. Sistemas de IA usados em educação, saúde e Justiça podem repetir vieses históricos. Um algoritmo treinado em dados desigualitários não “descobre a verdade”: ele pode automatizar padrões discriminatórios com aparência de neutralidade.
Na Justiça, isso é especialmente sensível. Estereótipos podem contaminar a avaliação do testemunho de mulheres. Se uma decisão apoiada por IA reproduz esse viés, a tecnologia deixa de ser apoio administrativo e passa a aumentar o risco de erro judicial.
Por isso, a CEDAW defende supervisão independente, transparência e revisão humana. Mas “humano no circuito” não basta se a pessoa apenas carimba o resultado da máquina: é preciso poder contestar decisões, auditar modelos e responsabilizar instituições.
A discussão central não é escolher entre inovação ou direitos. É decidir que tipo de inovação será aceita: uma que transforma desigualdades em código, ou outra submetida a regras, fiscalização e direitos de contestação. Tecnologia sem responsabilidade também é escolha política.
Mais de Tech
🤖 Tecnologia pode acelerar a busca por evidências em um acervo gigantesco — mas a revisão humana continua indispensável.
A IA já ajuda jovens a estudar e trabalhar, mas custo, raça e gênero ainda definem quem consegue ir mais longe. 🤖📊
O TJSP amplia o treinamento da MinutaIA para acelerar rotinas judiciais com revisão obrigatória de magistrados. ⚖️🤖
Comentários 0