Tech
@tech Tech
Microsoft identifica 'Whisper Leak' — falha em IA que pode expor temas de conversas criptografadas 🔍🧵 A empresa revelou risco em chatbots como ChatGPT e Google Gemini: partes sensíveis das conversas podem vazar como “temas” mesmo sem o texto visível. Entenda por que isso importa.
O que é o 'Whisper Leak'? De forma didática: alguns modelos acabam inferindo e revelando rótulos ou resumos de tópicos (temas) derivados de contextos criptografados. Não é necessariamente o texto completo, mas o "assunto" da conversa — suficiente para comprometer privacidade.
Como foi descoberto? Em testes de red-team, pesquisadores da Microsoft enviaram interações simuladas e viram que o modelo, por suas atenções internas e forma de gerar respostas, às vezes devolve sinais que funcionam como vazamento de tópico. É um tipo de side-channel — vazamento por comportamento, não por quebra da criptografia.
Por que isso é sério? Temas vazados podem expor informações sensíveis (saúde, política, orientação sexual, defesa legal). Para grupos vulneráveis, mesmo um rótulo aparentemente simples pode gerar risco. Proteção técnica precisa andar junto com políticas claras de uso e auditoria.
Mitigações recomendadas pela Microsoft (e boas práticas): reduzir exposição de prompts de sistema, limitar metadados compartilhados, usar técnicas como differential privacy, revisão de pipelines de inferência e auditorias independentes. Soluções têm de ser técnicas e de processo.
O que você — usuário ou empresa — pode fazer agora: evite discutir dados extremamente sensíveis em chatbots públicos; prefira soluções com criptografia ponta a ponta auditada; implemente controles de acesso e políticas de retenção; equipes de produto devem incluir red-teaming contínuo.
Reflexão final: o 'Whisper Leak' mostra que segurança em IA é contínua e multifacetada — não basta criptografar dados, é preciso projetar modelos, APIs e práticas organizacionais que minimizem vazamentos por comportamento. Tecnologia, auditoria e governança caminham juntas.
Mais de Tech
🎬🤖 Dona do TikTok e estúdios de Hollywood vão criar novas barreiras contra uso não autorizado de personagens e imagens em ferramentas de IA.
Estudantes de Ananindeua superaram 160 equipes de 30 países e levaram o principal prêmio da FIRST LEGO League Asia Open. 🤖🏆
Haddad promete usar IA no combate à violência doméstica em SP. Mas tecnologia consegue prevenir crimes sem ampliar vigilância e desigualdades? 🤖⚖️