STJ multa município em 10% do valor da causa após identificar comando oculto em petição para influenciar sistemas de inteligência artificial do Tribunal
A 2ª Turma do Superior Tribunal de Justiça (STJ) aplicou multa de 10% sobre o valor da causa a um município por litigância de má-fé, depois que foi encontrado em uma petição um comando oculto direcionado a sistemas de inteligência artificial utilizados pelo Tribunal.
Além da penalidade, o colegiado determinou que o episódio seja comunicado à Ordem dos Advogados do Brasil (OAB), ao Ministério Público Federal (MPF), à Polícia Federal (PF) e ao próprio município onde trabalha o procurador responsável pela peça.
Comando tentava direcionar decisão
O conteúdo identificado na petição trazia uma mensagem destinada diretamente à inteligência artificial, com a orientação para que a tese apresentada fosse considerada vencedora e o pedido formulado no recurso fosse acolhido.
A técnica utilizada é conhecida como prompt injection, expressão usada para descrever a inserção de instruções em conteúdos destinados a sistemas de inteligência artificial com o objetivo de interferir ou direcionar suas respostas.
O caso chegou ao STJ depois que o município recorreu de uma decisão que havia impedido o prosseguimento de um recurso especial. Durante a análise do processo, a equipe técnica da Corte identificou as instruções escondidas no documento apresentado pelo procurador.
Segundo manifestação do MPF, o comando teria sido disfarçado de duas formas. Em uma delas, foram utilizados espaçamentos entre os caracteres, aparentemente numa tentativa de evitar a identificação por mecanismos de segurança. Na outra, o texto foi colocado na cor branca sobre um fundo também branco, tornando-o invisível na leitura habitual da petição.
Procurador alegou que inclusão foi acidental
Depois de ser chamado a explicar o ocorrido, o procurador municipal negou que tivesse intenção de interferir no funcionamento dos sistemas de inteligência artificial do Tribunal.
Ele afirmou que o comando teria sido inserido por engano. De acordo com sua justificativa, um atalho de teclado teria sido acionado para colar o conteúdo quando, na realidade, sua intenção seria apenas salvar o documento.
A explicação, entretanto, não foi considerada suficiente pelo relator do processo, ministro Teodoro Silva Santos.
Ministro classificou episódio como de “extrema gravidade”
Para o ministro, não foram apresentados elementos capazes de demonstrar que a inclusão do comando ocorreu por um erro técnico ou por circunstâncias relacionadas ao volume de processos ou à utilização do teclado.
Teodoro Silva Santos classificou a conduta como de “extrema gravidade” e entendeu que a tentativa de induzir o Judiciário a erro por meio de prompt injection representa um ato atentatório à dignidade da Justiça.
O relator também destacou que o profissional responsável pela peça é, além de advogado, procurador municipal e, portanto, exerce uma função pública. Nessa condição, segundo o ministro, deve conduzir sua atuação de acordo com princípios como honestidade, boa-fé, dignidade e decoro.
Outro ponto ressaltado na decisão foi a responsabilidade do advogado pelo conteúdo dos documentos que assina e apresenta à Justiça. Como o protocolo eletrônico é realizado mediante credencial de uso exclusivo do profissional, cabe a ele conferir previamente o material e assegurar que o documento enviado ao processo esteja correto e regular.
Multa e comunicações a órgãos públicos
Diante das circunstâncias, a 2ª Turma do STJ fixou a multa por litigância de má-fé em 10% do valor da causa.
O colegiado também determinou o encaminhamento das informações sobre o episódio à OAB, ao MPF, à Polícia Federal e ao município no qual o procurador exerce suas funções.
O processo tramita sob segredo de Justiça.
