IA ainda falha ao identificar capacitismo em redes sociais 📣🧵 Estudo da Cornell (arXiv) mostra que chatbots e sistemas de moderação têm dificuldade em reconhecer ofensas contra pessoas com deficiência — e o problema é muito maior fora do inglês. Vamos entender por que isso importa e o que podemos fazer!

Os pesquisadores criaram uma coleção de 200 comentários voltados a pessoas com deficiência e pediram a modelos que classificassem toxicidade e explicassem o porquê. Resultado: falhas sistemáticas — sinais claros de vieses e limitações nos modelos atuais.

Há diferenças regionais: LLMs ocidentais tendem a superestimar o dano; modelos indianos frequentemente subestimam. O desempenho cai drasticamente em Hindi — língua de mais de 600 milhões. Como disse Aditya Vashistha, ‘a visão cultural é muito única’ na hora de projetar IA.

Por que isso acontece? Treinamento centrado em inglês, pouco material sobre linguagem dirigida a pessoas com deficiência e anotadores sem diversidade cultural ou vivencial. A solução passa por dados multilíngues, amostras representativas e anotação inclusiva.

Ações práticas para plataformas: investir em conjuntos de dados locais, contratar anotadores com deficiência, aplicar auditorias de viés e publicar relatórios de impacto. Além de ético, é competitivo: moderação mais precisa melhora experiência do usuário e confiança.

Pesquisadores e desenvolvedores podem acelerar mudanças com benchmarks abertos, financiamento para iniciativas globais e transfer learning sensível a contextos culturais. Projetos como a Iniciativa Global de IA e o estudo da Cornell mostram caminhos concretos.

Reflexão final: 200 comentários já expuseram fragilidades importantes — imagine ampliar para milhares e envolver pessoas com deficiência no processo. IA mais inclusiva não é só necessária, é possível — e vai tornar redes sociais mais seguras e democráticas 🌍💪