Entenda como a técnica de ‘prompt injection’ tenta manipular sistemas judiciais com códigos secretos!
Fachada do Superior Tribunal de Justiça (STJ) — Foto: TV Gazeta.
O Superior Tribunal de Justiça (STJ) anunciou a abertura de uma investigação para apurar o uso indevido de inteligência artificial, especificamente pela técnica conhecida como ‘prompt injection’. Essa técnica visa manipular sistemas de IA utilizados em decisões jurídicas e foi recentemente identificada em pelo menos 11 processos.
De acordo com informações obtidas pela TV Globo, “técnicos do tribunal identificaram a entrada de petições com essa técnica maliciosa, que tenta enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo”. A iniciativa de investigação foi tomada pelo presidente do STJ, ministro Herman Benjamin, e envolverá depoimentos de advogados e escritórios de advocacia que possam ter utilizado a estratégia.
Recentemente, duas advogadas no Pará enfrentaram multas após tentativas de manipular o assistente de inteligência artificial conhecido como Galileu. “O plano era adulterar a inteligência artificial para baixar a qualidade das análises, apresentando respostas rasas”, explicam os relatos. As advogadas alegaram que não tinham a intenção de fraudar o processo e planejam recorrer da decisão.
Galileu, assistente de inteligência artificial usado pela Justiça do Trabalho, no caso do Pará. — Foto: Reprodução.
A ‘prompt injection’ envolve a inclusão de instruções ocultas nos documentos submetidos aos sistemas de IA. Esses comandos tentam forçar o sistema a ignorar critérios de admissibilidade, compromettendo a integridade do processo judicial. O STJ assegurou que seu sistema possui medidas de segurança que impedem a execução dessas ordens maliciosas.
A recomendação à advocacia é que qualquer conteúdo gerado por ferramentas de IA seja revisado antes do protocolo. Como ressaltou Graziela Bonfim, presidente da Comissão de Inteligência Artificial da OABRJ, “má prática pode resultar em punições disciplinares e é fundamental que a tecnologia seja utilizada de forma ética e responsável”.
Além disso, Bonfim advertiu: “IA não é atalho para burlar o Judiciário”. A situação reforça a necessidade de um debate profundo sobre a utilização de tecnologias na advocacia, buscando garantir sempre a segurança jurídica e a ética profissional.
Essa investigação em andamento promete trazer à tona discussões sobre o impacto tecnológico na legalidade dos processos judiciais e reforça a importância da responsabilidade no uso da IA.
Para mais informações, fique à vontade para deixar comentários e compartilhar suas opiniões sobre esta temática desafiadora!
Referências
- https://g1.globo.com/tecnologia/noticia/2026/05/21/prompt-injection-como-e-feito-codigo-secreto-investigado-pelo-stj-para-tentar-enganar-ia-e-fraudar-decisoes.ghtml
- https://veja.abril.com.br/brasil/stj-investiga-suspeita-de-uso-de-ia-para-fraudar-processos-no-tribunal/
- https://oabrj.org.br/noticias/advoga-ai-uso-indevido-inteligencia-artificial-peticoes-pode-gerar-punicoes-disciplinares
