–:–:–
Conecte-se conosco

Agentes de IA no Judiciário: risco de vazamento de dados alerta CNJ

Especialistas apontam que a automação de tarefas em tribunais pode ser explorada por comandos ocultos para acessar informações sigilosas.

0 visualizações
Juiz do CNJ alerta para risco de agentes de IA serem manipulados para vazar dados da Justiça

O avanço da inteligência artificial no Poder Judiciário brasileiro trouxe uma nova preocupação de segurança cibernética: a possibilidade de que os chamados agentes de IA — programas automatizados de alta autonomia — sejam manipulados por terceiros para extrair dados sensíveis, quebrar sigilos processuais ou roubar credenciais de magistrados. O alerta parte do juiz federal George Marmelstein, integrante do Comitê Nacional de Inteligência Artificial do Judiciário, ligado ao Conselho Nacional de Justiça (CNJ).

A evolução das ameaças cibernéticas Diferente das IAs tradicionais, que apenas respondem a comandos, os agentes de IA possuem permissões para executar tarefas de forma autônoma, como navegar na web, preencher formulários e acessar sistemas internos. Essa capacidade de “fazer” em nome do usuário é o que preocupa o magistrado.

“Os agentes apertam botões, executam códigos, criam documentos. Eles têm essa questão do fazer. E, ao fazer, pode haver uma influência para que ele rode um código [de um programa] e esse código seja malicioso, no sentido, por exemplo, de pegar suas credenciais, pegar seus dados. E isso é um risco maior”, afirma George Marmelstein.

O desafio da injeção de comandos A prática conhecida como prompt injection tem sido um problema recorrente nos tribunais. Advogados já foram flagrados inserindo instruções invisíveis em petições para tentar manipular o entendimento das ferramentas de IA usadas pelos juízes. Dados do Superior Tribunal de Justiça (STJ) apontam que, em uma análise de 6 milhões de peças, foram identificados 116 casos suspeitos, com 40 confirmações após análise humana.

Sobre esse monitoramento, o ministro Luis Felipe Salomão, presidente do STJ, detalhou: “Nós analisamos quase 6 milhões de peças pelo sistema, apontamos 116 casos suspeitos, confirmamos, após uma análise humana, 40 casos e detectamos 1 caso a cada 150.000 peças”.

Medidas de proteção e governança Para mitigar os riscos, especialistas sugerem que os sistemas operem com o princípio do privilégio mínimo, dando acesso apenas ao necessário para cada tarefa. O especialista em cibersegurança Matheus Vasconcelos reforça que a proteção falha quando comandos maliciosos se disfarçam de orientações oficiais.

“Existem mecanismos para diferenciar essas origens, mas eles podem falhar, especialmente quando o comando malicioso se apresenta como uma orientação oficial ou uma etapa necessária do trabalho”, afirma Matheus Vasconcelos.

Além disso, a supervisão humana é apontada como a última linha de defesa. O especialista em Tecnologia e Inovação Arthur Igreja destaca: “A supervisão e a aprovação humana precisam ser proporcionais à gravidade da ação, ao risco potencial e à sensibilidade dos dados. Essa supervisão deve funcionar como a última barreira de proteção”.

O cenário atual da tecnologia na Justiça Com 178 projetos de IA em tribunais brasileiros, o uso da tecnologia é massivo, mas ainda carece de fiscalização rigorosa. Enquanto o CNJ estuda vulnerabilidades e busca formas de impedir “ondas de litigiosidade”, o debate sobre a soberania tecnológica permanece aberto. O uso de plataformas comerciais, como ChatGPT e Gemini, é um ponto sensível, especialmente devido ao receio de que empresas privadas possam deter influência sobre o sistema judicial.

“Será que quando eu pergunto para um deles [uma plataforma de IA], para que faça uma petição de uma questão, vamos imaginar uma questão tributária que seja contrária aos interesses daquele agente [a empresa dona da ferramenta], ele realmente vai me apresentar ali um resultado que seja absolutamente equidistante?”, questiona a professora Ana Frazão, da UnB.

Apesar dos riscos, o CNJ mantém a permissão para o uso de ferramentas comerciais, desde que respeitadas as normas de governança estabelecidas em 2025. O desafio agora é equilibrar a inovação tecnológica com a necessidade de garantir a transparência, a segurança dos dados processuais e a lisura das decisões judiciais.

Mais em Política

Ver tudo →