Reprodução / TJMS Após identificar uma tentativa de manipulação de sistemas de inteligência artificial dentro do ambiente judicial, o Tribunal de Justiça de Mato Grosso do Sul (TJMS) passou a adotar novas medidas de segurança digital voltadas ao monitoramento de petições eletrônicas.
O alerta foi aceso após a descoberta de comandos ocultos de “prompt injection” em documentos enviados por um escritório de advocacia de Campo Grande. A prática consiste na inserção de instruções escondidas dentro de textos destinados a plataformas de inteligência artificial, com o objetivo de influenciar respostas automatizadas, alterar interpretações ou induzir sistemas a ignorarem parâmetros previamente estabelecidos.
Diante da situação, a Secretaria de Tecnologia da Informação (STI) do TJMS desenvolveu uma ferramenta interna capaz de detectar estruturas suspeitas em peças processuais eletrônicas. O sistema atua de forma preventiva, analisando padrões incompatíveis com a estrutura comum de documentos jurídicos e auxiliando na identificação de possíveis tentativas de interferência em ferramentas inteligentes utilizadas no Judiciário.
O tema é abordado no artigo “Prompt Injection no Judiciário: Um Tema à Espera de Enquadramento Penal”, de autoria do desembargador Odemilson Roberto Castro Fassa, coordenador do Comitê de Governança e Ética para o uso de Inteligência Artificial no TJMS e pós-doutorando pela Universidade de São Paulo (USP).
No artigo, o magistrado alerta para os riscos que esse tipo de prática representa à credibilidade do sistema de Justiça e à integridade do processo eletrônico. Segundo ele, o assunto ainda carece de amadurecimento jurídico e jurisprudencial no Brasil.
“A conduta é, em verdade, pluriofensiva: atinge patrimônio, administração da justiça, integridade de sistemas públicos e confiança na jurisdição. Definir como o direito penal brasileiro responderá a essa nova fronteira da litigância algorítmica predatória é debate que ainda está por ser feito e que merece análise aprofundada antes que os primeiros julgados consolidem entendimento sem o devido amadurecimento doutrinário”, escreveu o desembargador.
O magistrado também aponta que as punições atualmente aplicáveis ao uso de prompt injection ainda são consideradas leves, limitadas a multas processuais e eventuais medidas disciplinares da OAB, como suspensão profissional. Segundo ele, a ausência de responsabilização penal efetiva pode incentivar o avanço desse tipo de fraude, principalmente em ações de alto valor financeiro.
A diretora da área de tecnologia do TJMS, Liriane Nogueira, destacou que o avanço da inteligência artificial exige vigilância constante por parte do Poder Judiciário.
“A evolução das tecnologias exige atenção permanente do Poder Judiciário não apenas às possibilidades trazidas pela inteligência artificial, mas também aos riscos relacionados ao uso inadequado dessas ferramentas”, afirma.
“O desenvolvimento interno dessa ferramenta demonstra a preocupação institucional do Tribunal em antecipar desafios e preservar a confiabilidade dos sistemas utilizados no ambiente processual”, completa.
Apesar da implantação do detector de prompt injection, o TJMS reforça que a principal barreira contra falhas e manipulações continua sendo a supervisão humana. O Tribunal destaca que sistemas de inteligência artificial funcionam apenas como ferramenta de apoio, enquanto atos decisórios seguem sob responsabilidade exclusiva dos magistrados.
No caso identificado pelo tribunal, os comandos ocultos estavam inseridos em fonte branca dentro das petições eletrônicas, tornando as instruções invisíveis em uma leitura convencional do documento.
As mensagens eram direcionadas a sistemas de inteligência artificial generativa e buscavam induzir respostas favoráveis a uma determinada tese jurídica, situação que levou o TJMS a ampliar o monitoramento sobre possíveis tentativas de manipulação digital no ambiente processual.
JD1 No Celular
Acompanhe em tempo real todas as notícias do Portal, clique aqui e acesse o canal do JD1 Notícias no WhatsApp e fique por dentro dos acontecimentos também pelo nosso grupo, acesse o convite.
Reportar Erro
Deixe seu Comentário
Leia Também
Plataformas de games podem ser usadas como incubadoras de cibercrimes
Tecnologia desenvolvida em MS ganha destaque nacional na saúde pública
Juizados Especiais de MS passam a operar com eproc a partir de 28 de abril no TJMS
Telegram é alvo de investigação por conteúdo ilegal envolvendo menores
Com pele artificial, pesquisa simula efeitos da menopausa e envelhecimento
Parceria entre instituições firma acordo para criação de centro de ensino no Pantanal
