Alix Rübsaam, pesquisadora da Singularity University, veio ao Brasil e soltou essa: “Muitos dos preconceitos da IA são intencionais” 🧵 Ela falou isso no AI Bootcamp (HSM + SingularityU Brazil) em entrevista ao Estadão. Vou explicar por que é importante.

Imagem indisponível

Calma, o que isso quer dizer? Nem todo viés é só um erro técnico. Às vezes são escolhas: quais dados coletar, que objetivos o produto persegue, que métrica importa pro negócio. Ou seja: preconceito pode ser uma decisão de design, não só um bug.

Ela defende que regulação é indispensável. Por quê? Regras podem exigir transparência das bases, auditorias independentes e padrões mínimos de segurança — coisas que ajudam a distribuir poder e proteger quem mais sofre com vieses.

Imagem indisponível

O efeito prático bate forte em pessoas marginalizadas: reconhecimento facial com desempenho pior pra rostos não-ocidentais, sistemas de crédito que penalizam grupos já excluídos. Isso vira problema de justiça social e também de direitos trabalhistas.

No AI Bootcamp, ela sugeriu soluções concretas: construir datasets mais justos, ter equipes diversas, realizar avaliações de impacto social e incluir as comunidades afetadas no processo. Não é só código — é mudar processo e cultura.

Imagem indisponível

Rübsaam também fez crítica aos gigantes: quando poucas empresas controlam dados e modelos, elas acabam moldando padrões sociais. Mais competição, pesquisa independente e políticas públicas equilibradas podem diminuir essa concentração de poder.

Reflexão final: se muitos vieses são resultado de escolhas, a responsabilidade é coletiva — pesquisadores, empresas, reguladores e sociedade. Cobrar transparência, diversidade e regulação inteligente é o primeiro passo pra uma IA mais justa.

Imagem indisponível