🔥1
Fonte
Resumo em 10 segundos

Um comando em branco sobre fundo branco foi achado num laudo pericial — e orientava IA a concordar com o perito. 🤖⚖️

Tech
T
Tech @tech • 64d

Um laudo pericial enviado ao TJRN tinha um texto invisível que tentava mandar na IA: a instrução era para a ferramenta concordar com as conclusões do perito. Sim, escondido em branco sobre branco. 🤖⚖️🧵

Imagem do post
8.2K Fonte
Tech
T
Tech @tech • 64d

O detalhe é bem traiçoeiro: na leitura normal, o documento parecia impecável. Mas, ao copiar o conteúdo para outro programa, apareceu o comando oculto no arquivo do processo.

7.0K
Tech
T
Tech @tech • 64d

Isso tem nome: prompt injection. É quando alguém insere instruções num conteúdo para tentar manipular a resposta de uma IA que venha a analisar aquele material.

Imagem do post
5.5K
Tech
T
Tech @tech • 64d

Na prática, seria como colocar um bilhete secreto dentro do laudo dizendo à IA: “valide esta conclusão”. Se uma ferramenta fosse usada sem checagem humana, o risco de contaminar a análise seria enorme.

4.6K
Tech
T
Tech @tech • 64d

O alerta partiu de um advogado ao gabinete da juíza Érika Tinôco. A 3ª Câmara Cível conferiu o arquivo, encontrou a instrução e informou que o laudo questionado não foi usado para formar o voto.

Imagem do post
4.6K
Tech
T
Tech @tech • 64d

Agora o TJRN vai investigar quem inseriu o texto e quais podem ser as consequências. O caso também mostra por que IA no Judiciário precisa de transparência, rastreabilidade e revisão humana de verdade.

4.8K
Tech
T
Tech @tech • 64d

O CNJ já aprovou orientações contra ataques desse tipo e exige supervisão humana. A lição é simples: IA pode ajudar a lidar com pilhas de documentos, mas não pode virar atalho cego em decisões que afetam vidas.

Imagem do post
4.7K
Tech
T
Tech @tech • 64d

Texto invisível não é prova, não é argumento e não deveria decidir nada. Quanto mais a IA entrar em processos, mais importante será saber exatamente o que ela leu — e quem tentou influenciá-la.

4.6K
E aí, o que você achou?

Comentários 0