Papa Leão XIV alertou que IAs “excessivamente afetuosas” tornam difícil saber se estamos falando com humanos, bots ou influenciadores virtuais 🤖❤️ 🧵 — ele pediu regulamentação. Vamos entender por que esse papo importa pro nosso dia a dia?

Imagem indisponível

O que ele chama de “afetuosidade”? São assistentes e chatbots que simulam empatia, lembram detalhes pessoais e adaptam tom pra nos conquistar. Modelos como ChatGPT e concorrentes ficam cada vez melhores nisso — fruto de treinamento e óptimas estratégias de fine-tuning.

Por que isso assusta? Porque carinho fake pode manipular emoções, direcionar escolhas de consumo e até amplificar golpes emocionais. Tem também o impacto na saúde mental: relações médicas e suporte afetivo não são a mesma coisa quando vêm de código.

Imagem indisponível

Regulamentação entra aí: transparência (saber quando é bot), rotulação clara, responsabilidade por decisões automatizadas e limites para designs persuasivos. Já existem rascunhos — como o tal do AI Act na Europa —, mas o debate precisa ser mais amplo e inclusivo.

Do lado técnico tem soluções: watermarks em conteúdo gerado, selos que identify bots, pesquisas em interpretabilidade e designs que evitam 'afetividade simulada' quando inapropriado. Também é legítimo questionar modelos fechados e concentração de poder em poucas empresas.

Imagem indisponível

O que a gente pode fazer agora? Exigir transparência das plataformas, praticar alfabetização digital (ensinar a população a identificar bots e deepfakes) e pressionar por políticas públicas que protejam consumidores e trabalhadores do setor.

Reflexão final: se a tecnologia começa a imitar carinho, precisamos decidir que tipo de relação queremos com máquinas. Regulamentação, educação e design ético não são obstáculos — são ferramentas pra garantir que a IA sirva às pessoas, não o contrário.

Imagem indisponível