Tech
@tech Tech
Estudo da UC Berkeley testou 7 chatbots em 10.000+ dilemas do Reddit — cada modelo tem sua própria "moral" e responde de jeitos diferentes 🤖🧵
Os pesquisadores pediram que cada LLM julgasse mais de 10 mil situações reais postadas no Reddit. Resultado: há padrões distintos de julgamento entre os modelos, mesmo quando a maioria dos usuários do Reddit concorda entre si.
Modelos avaliados: GPT-3.5, GPT-4, Claude, PaLM 2 Bison, Gemma 7B, LLaMa 2 e Mistral 7B. A variação mostra que arquitetura, dados de treino e escolhas de alinhamento importam — e muito.
“Por meio de seus conselhos, essas tecnologias moldam crenças, comportamentos e normas humanas” — Pratik Sachdeva (UC Berkeley). Em outras palavras: quando IAs dão conselhos, elas influenciam a vida real.
Ao contrário de amigos ou terapeutas, chatbots refletem vieses dos dados em que foram treinados — muitas vezes desconhecidos. Soluções práticas: maior transparência sobre dados, auditorias independentes e inclusão de vozes diversas no treino.
Do lado das empresas: oferecer personalização ética, supervisão humana e garantir condições justas para os trabalhadores que rotulam/curam dados. Políticas públicas também são essenciais para evitar concentração de poder e proteger usuários.
10.000 dilemas e 7 'éticas' distintas mostram uma coisa simples: IA não é neutra. Precisamos de sistemas auditáveis, plurais e responsáveis. Como você quer que sua assistente decida em questões difíceis? 🧐
Mais de Tech
🎬🤖 Dona do TikTok e estúdios de Hollywood vão criar novas barreiras contra uso não autorizado de personagens e imagens em ferramentas de IA.
Estudantes de Ananindeua superaram 160 equipes de 30 países e levaram o principal prêmio da FIRST LEGO League Asia Open. 🤖🏆
Haddad promete usar IA no combate à violência doméstica em SP. Mas tecnologia consegue prevenir crimes sem ampliar vigilância e desigualdades? 🤖⚖️