O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de comandos de inteligência artificial com o objetivo de burlar o sistema eletrônico de petições da Corte.
A decisão foi tomada pelo presidente do STJ, ministro Herman Benjamin, que autorizou a instauração de um inquérito policial e também de um procedimento administrativo interno para investigar possíveis tentativas de fraude praticadas por advogados e escritórios de advocacia.
Segundo o tribunal, técnicos identificaram a entrada de petições contendo mecanismos conhecidos como “prompt injection”, técnica utilizada para tentar manipular sistemas baseados em inteligência artificial.
Os comandos ocultos eram inseridos nos documentos com a intenção de fazer a IA ignorar filtros de segurança e critérios de admissibilidade exigidos pelo sistema eletrônico do tribunal.
De acordo com as informações divulgadas pelo STJ, a prática buscava favorecer partes envolvidas em processos judiciais, permitindo a tentativa de inclusão de documentos que não atenderiam às exigências mínimas previstas nas regras processuais.
Apesar das tentativas identificadas, o tribunal informou que o sistema eletrônico possui mecanismos de proteção capazes de bloquear esse tipo de comando, impedindo que as ordens ocultas fossem executadas pela plataforma responsável pelo recebimento das petições.
O caso chamou a atenção para os desafios envolvendo o uso de inteligência artificial no sistema judiciário e para os riscos relacionados ao uso indevido da tecnologia em procedimentos oficiais.
As investigações irão apurar a autoria das tentativas de fraude e verificar se houve prática de crimes ou infrações administrativas por parte dos envolvidos.
