STJ investiga uso de 'prompt injection' para manipular IA e fraudar decisões judiciais
O Superior Tribunal de Justiça (STJ) abriu inquérito e procedimento administrativo para apurar tentativas de fraude processual por meio de 'prompt injection', técnica que insere comandos ocultos em documentos para manipular sistemas de inteligência artificial. Ao menos 11 processos criminais já foram identificados com indícios da prática.
Técnica e investigação
A técnica de 'prompt injection' consiste na inserção de instruções ocultas em documentos jurídicos com o objetivo de enganar ou manipular ferramentas de inteligência artificial. O STJ identificou ao menos 11 processos criminais nos quais a prática foi utilizada, buscando fraudar decisões judiciais. A investigação incluirá depoimentos de advogados e escritórios suspeitos de envolvimento.
Medidas de segurança e posicionamento do STJ
O sistema de IA generativa do STJ, denominado STJ Logos, foi desenvolvido com camadas de segurança para impedir a execução de comandos maliciosos. Segundo o presidente do tribunal, ministro Herman Benjamin, o sistema já possui mecanismos que bloqueiam tentativas de manipulação. Benjamin destacou que serão aplicadas sanções processuais, administrativas e criminais aos responsáveis pelas fraudes.