🤖 O que você confessa a um chatbot pode não ficar entre vocês. Nos EUA, conversas com IA já estão sendo repassadas a autoridades e usadas em investigações e tribunais. ChatGPT não é amigo, terapeuta nem advogado. 🧵

Imagem indisponível

Segundo levantamento do Washington Post, os relatos de empresas de IA às autoridades cresceram rápido: foram 11 no 1º semestre de 2024; 17 no 2º; 41 no 1º semestre de 2025; e 84 no 2º. Em dois anos, a lógica de “conversa privada” evaporou.

O mecanismo é técnico e humano: a OpenAI diz escanear conversas em busca de sinais de comportamento perigoso. Alertas seguem para revisores humanos; se houver risco “iminente e crível” de violência, o caso pode ser comunicado às autoridades.

Imagem indisponível

Há uma questão legítima: plataformas não podem ignorar ameaças concretas de massacres ou suicídio. Mas “detectar perigo” não é uma tarefa neutra. Modelos erram contexto, linguagem e intenção — e um falso positivo pode levar uma conversa ambígua ao radar policial.

Também não existe privilégio advogado-cliente com chatbot. Perguntar à IA sobre consequências de um ato ilegal, relatar um fato ou testar uma hipótese pode criar registros armazenados pela empresa e potencialmente acessíveis por ordem judicial ou denúncia.

Imagem indisponível

O alerta do jurista Andrew Ferguson é maior que um caso isolado: se a IA mediar estudos, trabalho, saúde e vida pessoal, ela pode transformar rotinas em dados pesquisáveis. Conveniência sem limites de retenção e acesso vira infraestrutura de vigilância.

A pergunta central não é só “as plataformas devem reportar riscos?”. É: quais riscos, com qual transparência, por quanto tempo os dados ficam guardados e quem audita os critérios? Segurança pública precisa de regras claras — não de caixas-pretas corporativas.

Imagem indisponível

Trate chatbots como serviços digitais, não como confidentes. Evite inserir dados íntimos, identificáveis ou juridicamente sensíveis. A IA parece conversar como gente; sua infraestrutura, porém, registra, classifica e pode compartilhar informações. Essa diferença importa.