OAB-PB suspende advogados por uso de artificio que pode interferir em sistema da justiça
O presidente da Ordem dos Advogados do Brasil, Seccional Paraíba (OAB-PB), Harrison Targino, determinou a suspensão do exercício profissional de dois advogados, após a instauração de procedimento cautelar que apura a utilização de comandos ocultos, conhecidos como prompt injection, em petições para influenciar sistemas de inteligência artificial utilizados na análise de processos do Tribunal de Justiça da Paraíba (TJPB).
Em um dos casos, a medida foi adotada após representação encaminhada pela juíza Juliana Duarte Maroja, do Núcleo de Justiça 4.0 de Saúde Suplementar do TJPB, nos autos de Processo, que tramita sob segredo de justiça e trata do cumprimento de sentença para custeio de tratamento multidisciplinar de uma criança com Transtorno do Espectro Autista (TEA).
Segundo a magistrada, foram identificadas instruções adversariais ocultas em petições protocoladas no processo. Os comandos teriam sido inseridos em texto branco, com fonte microscópica e fragmentação lexical, tornando-os invisíveis durante a leitura comum, mas aptos a interferir no processamento automatizado do sistema MinutaIA, ferramenta de apoio utilizada pelo TJPB na elaboração de minutas judiciais.
De acordo com a documentação encaminhada à OAB-PB, a suposta irregularidade foi detectada em duas petições eletrônicas.
Segundo o STJ, “prompt injection” é uma técnica usada para tentar enganar sistemas de inteligência artificial, especialmente os chamados grandes modelos de linguagem. O método consiste na inserção de comandos ocultos em documentos comuns, como petições e recursos, de forma que não sejam percebidos visualmente por quem lê o texto.
Como esses sistemas analisam textos para compreender o contexto e responder a comandos, instruções ocultas podem ser inseridas em um documento com a intenção de influenciar a análise feita pela IA. Em tese, isso pode levar o sistema a desconsiderar orientações previamente definidas e produzir respostas favoráveis a uma das partes envolvidas.
