Segurança e IA Generativa no Poder Judiciário

No cenário judicial brasileiro, onde a busca por agilidade processual se choca com a necessidade inegociável de justiça e segurança, o uso de IA generativa no judiciário emerge como uma prática alarmante. Quase metade dos magistrados e servidores está utilizando inteligências artificiais disponíveis online e, pior, em suas versões gratuitas. Essa revelação, oriunda de uma pesquisa conduzida pelo Conselho Nacional de Justiça (CNJ) em 2024, lança uma sombra sobre a segurança de dados e a qualidade das decisões, expondo informações sensíveis a riscos iminentes.

A pesquisa do CNJ, que subsidiou a atualização da regulamentação sobre o uso de IA no Judiciário (Resolução nº 332/2020), aponta que 49,4% dos magistrados e um percentual semelhante de servidores fazem uso de alguma forma de IA. O dado mais preocupante, contudo, é a predileção por plataformas abertas e gratuitas de IA generativas. Impressionantes 76,4% dos magistrados e 90,4% dos servidores recorrem a essa ferramenta, majoritariamente em sua versão gratuita. 

É crucial notar que essas não são tecnologias desenvolvidas pelos próprios Tribunais, mas sim ferramentas externas, sem controle intrínseco pelo sistema judicial. 

Os perigos do uso da IA genérica gratuita

A busca incessante por soluções que agilizem os mais de 80 milhões de processos pendentes no Brasil tem impulsionado a popularização da IA. No entanto, essa corrida pela eficiência esconde perigos substanciais para a qualidade das decisões e a proteção de direitos fundamentais. 

Ferramentas de IA mal empregadas podem reproduzir preconceitos, gerar vieses, sugerir decisões equivocadas e até mesmo inventa" precedentes, problemas já conhecidos pela doutrina e pela experiência internacional, e de conhecimento do próprio CNJ.

Um pouco de história

Um caso emblemático ilustra o problema: em 2023, um juiz federal do TRF-1 utilizou uma plataforma de IA generativa para redigir parte de uma sentença. O sistema chegou a inventar precedentes atribuídos ao Superior Tribunal de Justiça (STJ), que jamais existiram. O episódio, que levou à investigação do magistrado pelo CNJ, evidencia os riscos de confiar cegamente em plataformas não validadas institucionalmente.

Os riscos do uso de IA generativa genérica no judiciário

Há uma dependência significativa de ferramentas de IA abertas e gratuitas, não desenvolvidas pelos Tribunais, o que acarreta riscos de segurança e conformidade.

O risco mais grave reside na exposição de informações sensíveis. A pesquisa do CNJ evidenciou que as diretrizes mínimas estabelecidas na Resolução nº 332 de 2020 – que incluíam princípios como respeito aos direitos fundamentais, transparência, governança e proteção de dados – vinham sendo descumpridas devido ao uso dessas plataformas abertas.

Institucionalizar é preciso

Por isso, em 2025, o Plenário do CNJ aprovou por unanimidade a atualização da Resolução nº 332/2020, ampliando o seu escopo diante dos avanços recentes da tecnologia. Enquanto a norma original, de 2020, concentrava-se nas soluções computacionais voltadas ao apoio da gestão processual, a nova versão passa a estabelecer diretrizes claras para o desenvolvimento, uso e monitoramento de ferramentas de inteligência artificial nos Tribunais. O objetivo é adequar o Judiciário ao cenário atual, marcado pela popularização das IAs generativas, e garantir que a inovação tecnológica caminhe em sintonia com a segurança jurídica, a proteção de dados e os direitos fundamentais.

A atualização da resolução também reforça que qualquer modelo de IA adotado pelos tribunais deve observar estritamente as regras de governança de dados aplicáveis aos sistemas do próprio Judiciário, bem como os normativos do CNJ, a Lei Geral de Proteção de Dados (LGPD), a Lei de Acesso à Informação (LAI), além das normas relativas à propriedade intelectual e ao segredo de justiça. Essa exigência busca minimizar riscos de vazamento ou uso indevido de informações sensíveis, assegurando a preservação dos direitos dos jurisdicionados e a manutenção da confiança pública no sistema judicial.

A resolução atualizada também estabelece que o desenvolvimento, o uso e o monitoramento de ferramentas de IA nos Tribunais devem respeitar os princípios fundamentais do processo judicial. Entre eles, estão o devido processo legal, a ampla defesa e o contraditório, a identidade física do juiz e a razoável duração do processo, sempre com observância das prerrogativas e dos direitos dos atores do sistema de Justiça (art. 3º, inciso V). Essa diretriz reforça que a inovação tecnológica não pode comprometer garantias constitucionais, funcionando apenas como instrumento de apoio ao exercício da jurisdição.

Além disso, o normativo prevê a necessidade de supervisão humana efetiva, periódica e adequada em todo o ciclo de vida da IA, ajustada conforme o grau de risco e impacto da solução adotada (inciso VII), bem como a capacitação contínua de magistrados e servidores para lidar criticamente com a automação, reconhecer vieses algorítmicos e avaliar de forma responsável os resultados gerados (inciso VIII). Essas diretrizes reforçam que a tecnologia deve estar sempre a serviço da Justiça, e não o contrário.

Inteligência humana

Dessa forma, o CNJ reafirma que a autoridade decisória permanece exclusivamente nas mãos do Juiz, garantindo a legitimidade e a autonomia da função jurisdicional. As soluções de IA não devem substituir o magistrado, apenas auxiliam na tomada de decisão.

Depois de todas essas diretrizes e cuidados estabelecidos pelo CNJ, o ponto central é que os Tribunais e magistrados continuem utilizando a inteligência artificial como ferramenta de apoio para aumentar a produtividade e otimizar o dia a dia da Justiça. 

No entanto, é fundamental que se utilize sistemas próprios, desenvolvidos pelo próprio Tribunal ou por ferramentas que se baseiem em dados seguros e que garantam a proteção das informações, diferentemente das IAs generativas, que muitas vezes utilizam dados inseridos para treinamento de modelos, expondo informações sensíveis. 

Dessa forma, a tecnologia pode potencializar a eficiência sem comprometer direitos, garantias processuais ou a confiança da sociedade no Poder Judiciário.

Leia mais – Do promissor ao inevitável: a presença crescente da IA no jurídico