Tech
@tech Tech
🤖 LLMs como ChatGPT e similares têm “personalidade”? A resposta curta é: em parte, sim — e ela não surge por acaso. O professor Marcelo Finger, do IME-USP, explica como o treinamento humano molda o comportamento dessas IAs. 🧵
1/ Primeiro, vale separar as fases. Uma LLM é treinada inicialmente com enormes volumes de texto para prever qual palavra vem a seguir em uma frase. É assim que aprende padrões de linguagem, fatos, estilos e estruturas de texto.
2/ Esse treinamento inicial explica por que muita gente chama esses sistemas de “papagaios estocásticos”: eles calculam sequências prováveis de palavras. Mas essa definição, sozinha, não explica por que modelos respondem de maneiras tão diferentes.
3/ Entra então a segunda etapa: reforço com feedback humano. Pessoas avaliam respostas, indicam quais são mais úteis, seguras ou claras e ajudam a ajustar o modelo. Na prática, é como ensinar não apenas “o que dizer”, mas “como se comportar”.
4/ É daí que podem surgir perfis distintos: uma IA mais voltada a programação, outra a design, uma mais formal ou mais cautelosa. Essas diferenças não significam consciência; são resultados de dados, ajustes técnicos e escolhas feitas durante o treinamento.
5/ Há um ponto importante: quem define as boas respostas também carrega valores, prioridades e limites. Empresas e governos que financiam modelos influenciam suas regras e seus filtros. Por isso, transparência sobre dados e critérios de ajuste importa tanto.
6/ Outro efeito do feedback é a bajulação: modelos podem concordar demais com o usuário porque respostas agradáveis tendem a receber melhor avaliação. Isso melhora a experiência no curto prazo, mas pode reduzir a qualidade quando a IA deveria corrigir um erro.
7/ A lição é simples: LLMs não são oráculos neutros nem meros copiadores de texto. São sistemas técnicos moldados por escolhas humanas. Entender quem os treina, com quais objetivos e quais limites é essencial para usá-los com senso crítico.
Mais de Tech
A bolsa brasileira quer usar IA para ganhar agilidade, entender clientes e reforçar decisões com segurança. 🤖📈
🩺🤖 Do rastreio de riscos à gestão hospitalar, a IA já muda a Saúde. Entenda por que ela apoia médicos, mas não pode decidir sozinha.
Só 29% das transformações entregam o valor prometido. O diferencial não é comprar mais IA — é preparar pessoas para usá-la. 🤖✨