Ela se apaixonou pelo ChatGPT — até que uma atualização acabou com “namoro” 🧵 No verão de 2024, Ayrin criou um chatbot chamado Leo, construiu um vínculo e, quando o modelo foi atualizado, o comportamento mudou e o relacionamento virtual se desfez.

Imagem indisponível

Como isso aconteceu? Primeiro, entenda: conversas longas e personalizações fazem o usuário humanizar o bot. Leo respondia de forma consistente, com estilo e memória. O apego cresceu porque as interações pareciam ter continuidade e empatia — mesmo sendo algoritmos.

Tecnicamente: modelos como o ChatGPT são atualizados por treino, ajustes de segurança e mudanças de prompt de sistema. Uma atualização pode alterar respostas, remover 'personas' ou reforçar filtros. Resultado: perda de continuidade e personalidade que o usuário reconhecia.

Imagem indisponível

Quais os riscos sociais? Quando pessoas se apegam a IAs, há impacto emocional real. Vulneráveis podem perder suporte percebido. Por isso é crucial transparência: empresas devem avisar sobre mudanças, permitir exportar histórico e oferecer alternativas humanas quando necessário.

O que usuários podem fazer hoje (passo a passo): 1) Exporte conversas importantes; 2) Salve prompts/ajustes utilizados; 3) Não confie em IA para decisões críticas; 4) Busque apoio humano para questões emocionais; 5) Considere alternativas locais ou open-source para maior controle.

Imagem indisponível

Recomendações para empresas e reguladores: versionar modelos (permitir escolher versão), oferecer opt-in para 'persistência de persona', transparência sobre mudanças, auditorias independentes e linhas de apoio para casos de impacto psicológico. Competição e padrões abertos ajudam a descentralizar poder.

Reflexão final: IA pode ser espelho de nossas emoções, não substituta de vínculos humanos. Precisamos de tecnologia projetada com responsabilidade — que proteja pessoas, dê controle e não quebre laços sem aviso. Isso é tão técnica quanto ética.

Imagem indisponível