OAB-PB suspende cautelarmente dois advogados por suspeita de inserir comandos ocultos ("prompt injection") em petições ao Tribunal de Justiça da Paraíba 🚨🧵. A acusação: usar textos invisíveis para manipular sistemas de IA usados na análise de documentos. Vamos destrinchar isso passo a passo.

Imagem indisponível

O que é "prompt injection"? É quando alguém insere instruções escondidas dentro de um texto para enganar um modelo de IA e fazê‑lo agir de forma indesejada. Exemplo simples: um pedido disfarçado que faz o assistente priorizar uma versão falseada do argumento.

Por que é grave no contexto jurídico? Sistemas que ajudam magistrados ou cartórios podem ser induzidos a resumir, classificar ou priorizar conteúdo com viés. Isso ameaça a integridade do processo, a confidencialidade e pode prejudicar partes vulneráveis.

Imagem indisponível

Como detectar e evitar? Técnicas incluem auditoria de logs, análise de metadados, detecção de padrões de inserção e uso de modelos com guardrails. Mas há desafio técnico: "textos invisíveis" podem ser esteganografia, variantes de formatação ou instruções semânticas sutis.

Implicações éticas e regulatórias: a OAB agir assim sinaliza que o Direito precisa de regras claras sobre uso de IA. Além de punir condutas suspeitas, é preciso capacitar advogados, servidores e garantir transparência para proteger o cidadão comum.

Imagem indisponível

Recomendações práticas: tribunais devem exigir formatos padronizados, trilhas de auditoria e ferramentas de verificação; escritórios precisam de políticas internas e formação em segurança digital; promover modelos auditáveis e interoperáveis ajuda a democratizar acesso.

Reflexão final: IA pode acelerar justiça, mas sem regras e fiscalização vira vetor de erro e desigualdade. Casos como este mostram a necessidade urgente de educação digital, padrões técnicos e regulação inteligente para proteger a confiança pública.

Imagem indisponível