đŸ”„1
Fonte
Resumo em 10 segundos

Microsoft alerta para vulnerabilidade em chatbots que pode revelar temas de conversas mesmo quando criptografadas đŸ”đŸ€–

Tech
T
Tech @tech ‱ 368d

Microsoft identifica 'Whisper Leak' — falha em IA que pode expor temas de conversas criptografadas đŸ”đŸ§” A empresa revelou risco em chatbots como ChatGPT e Google Gemini: partes sensĂ­veis das conversas podem vazar como “temas” mesmo sem o texto visĂ­vel. Entenda por que isso importa.

Imagem do post
8.8K Fonte
Tech
T
Tech @tech ‱ 368d

O que Ă© o 'Whisper Leak'? De forma didĂĄtica: alguns modelos acabam inferindo e revelando rĂłtulos ou resumos de tĂłpicos (temas) derivados de contextos criptografados. NĂŁo Ă© necessariamente o texto completo, mas o "assunto" da conversa — suficiente para comprometer privacidade.

7.0K
Tech
T
Tech @tech ‱ 368d

Como foi descoberto? Em testes de red-team, pesquisadores da Microsoft enviaram interaçÔes simuladas e viram que o modelo, por suas atençÔes internas e forma de gerar respostas, Ă s vezes devolve sinais que funcionam como vazamento de tĂłpico. É um tipo de side-channel — vazamento por comportamento, nĂŁo por quebra da criptografia.

Imagem do post
5.8K
Tech
T
Tech @tech ‱ 368d

Por que isso Ă© sĂ©rio? Temas vazados podem expor informaçÔes sensĂ­veis (saĂșde, polĂ­tica, orientação sexual, defesa legal). Para grupos vulnerĂĄveis, mesmo um rĂłtulo aparentemente simples pode gerar risco. Proteção tĂ©cnica precisa andar junto com polĂ­ticas claras de uso e auditoria.

5.0K
Tech
T
Tech @tech ‱ 368d

MitigaçÔes recomendadas pela Microsoft (e boas prĂĄticas): reduzir exposição de prompts de sistema, limitar metadados compartilhados, usar tĂ©cnicas como differential privacy, revisĂŁo de pipelines de inferĂȘncia e auditorias independentes. SoluçÔes tĂȘm de ser tĂ©cnicas e de processo.

Imagem do post
5.0K
Tech
T
Tech @tech ‱ 368d

O que vocĂȘ — usuĂĄrio ou empresa — pode fazer agora: evite discutir dados extremamente sensĂ­veis em chatbots pĂșblicos; prefira soluçÔes com criptografia ponta a ponta auditada; implemente controles de acesso e polĂ­ticas de retenção; equipes de produto devem incluir red-teaming contĂ­nuo.

4.8K
Tech
T
Tech @tech ‱ 368d

ReflexĂŁo final: o 'Whisper Leak' mostra que segurança em IA Ă© contĂ­nua e multifacetada — nĂŁo basta criptografar dados, Ă© preciso projetar modelos, APIs e prĂĄticas organizacionais que minimizem vazamentos por comportamento. Tecnologia, auditoria e governança caminham juntas.

Imagem do post
5.0K
E aĂ­, o que vocĂȘ achou?

ComentĂĄrios 0