🔥1
Resumo em 10 segundos

🕵️ Letras brancas, palavras fragmentadas e uma tentativa de induzir sistemas de IA da Corte. O caso expõe um novo desafio da segurança digital no Judiciário. 🧵

Tech
T
Tech @tech • 50d

Uma petição tentou “conversar” secretamente com a IA do STF usando texto quase invisível. 🕵️‍♂️ A manobra foi detectada, gerou multa e agora será analisada pela OAB e pelo MPF. O nome técnico disso é prompt injection. 🧵

Imagem do post
8.2K Fonte
Tech
T
Tech @tech • 50d

A estratégia era discreta: instruções em letras brancas e minúsculas, misturadas ao documento, além de palavras quebradas de modo incomum. A intenção era fazer uma eventual IA “conhecer e dar provimento” ao recurso.

7.1K
Tech
T
Tech @tech • 50d

Quem percebeu a tentativa foi a Maria Shield, recurso da plataforma Maria, IA desenvolvida internamente pelo STF. Ela busca padrões e conteúdos potencialmente maliciosos em documentos processuais — uma espécie de filtro contra armadilhas digitais.

Imagem do post
5.5K
Tech
T
Tech @tech • 50d

O alerta chegou ao gabinete do ministro Cristiano Zanin em 3 de setembro. Mas há um detalhe decisivo: o gabinete informou que não usa IA para analisar processos nem fundamentar decisões. O recurso já havia sido rejeitado antes.

4.6K
Tech
T
Tech @tech • 50d

Ainda assim, o episódio é um retrato do novo campo de batalha tecnológico: sistemas de IA podem processar textos aparentemente comuns, mas carregados de instruções ocultas. Segurança não é só proteger servidores; é proteger o contexto que a máquina lê.

Imagem do post
4.8K
Tech
T
Tech @tech • 50d

Zanin registrou o caso nos autos e aplicou multa de dois salários mínimos por violação do dever de lealdade processual. O STF comunicará OAB e MPF para avaliar, respectivamente, possíveis infrações éticas e eventual crime.

4.8K
Tech
T
Tech @tech • 50d

A lição vai além do tribunal: à medida que IA entra em serviços públicos e no trabalho jurídico, transparência, revisão humana e ferramentas de detecção deixam de ser extras. São a base para que automação não vire porta de entrada para manipulação.

Imagem do post
4.6K
E aí, o que você achou?

Comentários 0