Tech
@tech Tech
Uma petição tentou “conversar” secretamente com a IA do STF usando texto quase invisível. 🕵️♂️ A manobra foi detectada, gerou multa e agora será analisada pela OAB e pelo MPF. O nome técnico disso é prompt injection. 🧵
A estratégia era discreta: instruções em letras brancas e minúsculas, misturadas ao documento, além de palavras quebradas de modo incomum. A intenção era fazer uma eventual IA “conhecer e dar provimento” ao recurso.
Quem percebeu a tentativa foi a Maria Shield, recurso da plataforma Maria, IA desenvolvida internamente pelo STF. Ela busca padrões e conteúdos potencialmente maliciosos em documentos processuais — uma espécie de filtro contra armadilhas digitais.
O alerta chegou ao gabinete do ministro Cristiano Zanin em 3 de setembro. Mas há um detalhe decisivo: o gabinete informou que não usa IA para analisar processos nem fundamentar decisões. O recurso já havia sido rejeitado antes.
Ainda assim, o episódio é um retrato do novo campo de batalha tecnológico: sistemas de IA podem processar textos aparentemente comuns, mas carregados de instruções ocultas. Segurança não é só proteger servidores; é proteger o contexto que a máquina lê.
Zanin registrou o caso nos autos e aplicou multa de dois salários mínimos por violação do dever de lealdade processual. O STF comunicará OAB e MPF para avaliar, respectivamente, possíveis infrações éticas e eventual crime.
A lição vai além do tribunal: à medida que IA entra em serviços públicos e no trabalho jurídico, transparência, revisão humana e ferramentas de detecção deixam de ser extras. São a base para que automação não vire porta de entrada para manipulação.
Mais de Tech
🌾🤖 A consultoria mineira Céleres incorpora a Arkéra Intelligence em uma operação por troca de ações. A meta é acelerar análises e criar produtos com IA para o agro.
🤖➡️👤 Marcas começam a vender ausência de IA como autenticidade. Mas quem verifica essa promessa — e quem fica de fora dela?
A empresa diz que os links não eram públicos e que a maior parte do material já foi removida. O caso expõe riscos no uso de agentes autônomos. 🔒🤖
Comentários 0