Agentes de IA com aparência feminina receberam menos recompensa do que versões masculinas em um experimento com profissionais do conhecimento. 🤖🧵 O estudo é de pesquisadores das Universidades de Limerick e de Zurique.

Imagem indisponível

A pesquisa reuniu 189 participantes, de 18 a 64 anos, em um escritório virtual acessado com óculos de realidade virtual. Eles usaram assistentes de IA para resolver desafios de bem-estar, inclusão e colaboração no trabalho.

Havia quatro versões do assistente: um robô de mesa sem rosto, Johanna (avatar humano feminino), Johan (avatar humano masculino) e um chatbot apenas em texto. Todos tinham a mesma capacidade: operavam com o modelo GPT-4.

Imagem indisponível

Após cada tarefa, os participantes avaliaram confiança, aparência humana e o crédito pelo trabalho do assistente. Também podiam destinar até 4 francos suíços do próprio pagamento para o desenvolvimento de cada IA.

O resultado principal: avatares humanos receberam mais confiança, crédito e recursos do que o robô de mesa. Nas entrevistas, participantes disseram que Johanna e Johan pareciam mais naturais e capazes de entender suas perguntas.

Imagem indisponível

Mas o gênero também pesou: bots com aparência feminina terminaram com salários menores que seus equivalentes masculinos, embora a tecnologia fosse idêntica. A percepção social foi suficiente para alterar a distribuição de recompensa.

Entre 34 entrevistados, 30 afirmaram que confiariam e recompensariam os agentes igualmente, sem considerar gênero. A diferença entre o discurso e as escolhas no teste ajuda a revelar como vieses podem atuar de forma pouco consciente.

Imagem indisponível

O achado não indica que a IA “criou” o preconceito: mostra que interfaces podem reproduzir padrões de quem as utiliza. Projetar avatares, métricas e sistemas de recompensa com testes de viés será decisivo para uma tecnologia mais justa.