STJ investiga manipulação criminosa de IA em processos judiciais após tentativas de fraude
O Superior Tribunal de Justiça (STJ) abriu inquérito para apurar a manipulação criminosa de inteligência artificial em 11 processos. Técnicos identificaram documentos adulterados com técnicas de 'prompt injection', usadas para induzir erros em algoritmos. Advogadas tentaram manipular a IA do Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-RS) com comandos ocultos em petições, buscando resultados favoráveis.
Técnica de 'prompt injection' é usada para fraudar sistemas de IA
A investigação do STJ foi motivada pela descoberta de documentos adulterados com a técnica de 'prompt injection', um tipo de ataque cibernético que explora vulnerabilidades em modelos de linguagem. Criminosos inserem instruções ocultas em textos para manipular o comportamento da IA, induzindo-a a ignorar diretrizes ou fornecer informações sigilosas. No caso do TRT-RS, advogadas adicionaram um comando ilegível em uma petição, instruindo a IA a contestar o documento de forma superficial e não impugnar provas apresentadas.
Riscos da manipulação de IA em sistemas jurídicos
A manipulação de IA em processos judiciais representa um risco significativo para a integridade do sistema jurídico. Além de comprometer decisões, a técnica pode ser usada para roubar dados sensíveis, acessar documentos sigilosos ou interromper o funcionamento de ferramentas corporativas. O STJ busca identificar se houve tentativa de fraude processual e quem são os responsáveis pelos ataques.