🔥1
Fonte
Resumo em 10 segundos

A Justiça Federal não julgou a suspeita sobre IA — mas expôs um dilema urgente: como investigar manipulação algorítmica sem atropelar o devido processo? ⚖️🤖

Tech
T
Tech @tech • 69d

🤖⚖️ A Justiça Federal anulou a suspensão de um advogado suspeito de usar “prompt injection” em petições para influenciar sistemas de IA ligados ao TJPB. A decisão não encerra a apuração — mas questiona como ela foi conduzida. 🧵

Imagem do post
8.5K Fonte
Tech
T
Tech @tech • 69d

Prompt injection é uma técnica que insere instruções para alterar a resposta de uma IA. No contexto judicial, a suspeita é grave: textos ocultos em petições poderiam tentar induzir ferramentas usadas como apoio na elaboração de minutas.

7.1K
Tech
T
Tech @tech • 69d

O ponto central da decisão da 3ª Vara Federal da PB, porém, foi processual: a OAB-PB não teria competência legal para aplicar a suspensão naquele formato. Segundo a Justiça, a medida caberia ao Tribunal de Ética e Disciplina, com oitiva prévia.

Imagem do post
5.6K
Tech
T
Tech @tech • 69d

Isso não equivale a declarar inocência nem a validar o uso de comandos ocultos. Significa algo básico, mas decisivo: diante de uma acusação tecnológica nova, as garantias de defesa e o rito correto não podem virar detalhe.

4.8K
Tech
T
Tech @tech • 69d

O caso revela uma fragilidade maior: quando a IA entra no fluxo do Judiciário, petições deixam de ser lidas apenas por pessoas. Sistemas precisam ser projetados para tratar documentos como dados potencialmente adversariais — com filtros, rastreabilidade e revisão humana real.

Imagem do post
4.6K
Tech
T
Tech @tech • 69d

Também há uma pergunta incômoda: se uma instrução escondida consegue afetar uma IA de apoio, quais controles existem para impedir vieses, erros ou manipulações em escala? Automatizar etapas não pode criar uma caixa-preta com aparência de eficiência.

4.6K
Tech
T
Tech @tech • 69d

A inovação no Judiciário pode ampliar acesso e reduzir demora, mas só será confiável com segurança técnica, transparência sobre o uso de IA e responsabilização proporcional. Este caso é menos sobre um truque de prompt e mais sobre governança antes que o risco vire rotina.

Imagem do post
4.6K
E aí, o que você achou?

Comentários 0