segurança
ia no direito
Segurança de IA no jurídico: falta um plano de resposta
•
Quase toda empresa brasileira usa IA, mas a maioria não tem plano para o dia em que ela falha.
A segurança de IA no jurídico não se resolve apenas com controle de acesso e criptografia de dados. Ela exige um plano de resposta específico para quando um modelo, um agente ou uma integração de IA falha ou é comprometida, algo que a maioria dos escritórios e departamentos jurídicos brasileiros ainda não tem.
Segundo o relatório anual de resiliência cibernética da Cohesity, quase toda empresa no Brasil já usa IA. Poucas sabem o que fazer no dia em que algo dá errado.
A adoção veio antes da defesa
O dado em si não surpreende ninguém que acompanha o setor: praticamente todas as organizações brasileiras adotaram alguma forma de inteligência artificial. O que chama atenção é o que vem depois. Mais da metade dessas organizações não tem um plano abrangente de resposta e recuperação para ataques direcionados aos próprios sistemas de IA. A pesquisa, conduzida pela Vanson Bourne com 3.200 líderes de TI e segurança em 12 países, ouviu profissionais que já vivem essa lacuna na pele.
Ter IA rodando em produção não é o mesmo que estar pronto para o momento em que ela é atacada. São duas capacidades diferentes, construídas em ritmos diferentes. A primeira acontece rápido, porque o mercado empurra. A segunda exige investimento deliberado, e é justamente aí que a maioria das empresas para.
O que fica exposto quando ninguém sabe quais modelos estão rodando
Por trás de qualquer sistema de IA em produção existe uma pergunta de engenharia que raramente aparece nas conversas sobre adoção: quantos modelos, agentes e integrações de IA estão de fato ativos dentro da organização agora? Mais da metade das empresas na pesquisa admite não ter um inventário centralizado desses sistemas. Sem esse inventário, não existe superfície de defesa mapeada. Existe só uma coleção de pontos cegos.
Isso fica mais grave quando o ataque já aconteceu. Entre as empresas que sofreram algum incidente, a maioria identificou lacunas relevantes na cobertura de segurança dos próprios modelos e ferramentas de IA, e quase metade não confia na própria capacidade de verificar a integridade de um modelo depois de um ataque. Verificar integridade não é rodar um antivírus. É conseguir provar, com evidência técnica, que o comportamento do modelo não foi alterado, que os pesos não foram manipulados e que as respostas geradas continuam confiáveis. Poucas equipes têm essa checagem pronta antes de precisar dela.
Os agentes de IA elevam essa complexidade. Um agente que age em nome de alguém, delegando tarefas e tomando decisões dentro de um fluxo, multiplica os pontos onde um comportamento incorreto pode se espalhar antes de ser percebido. Mais da metade das organizações não se considera preparada para detectar e conter uma ação incorreta de agente antes que ela cause dano. Já escrevemos sobre quem responde juridicamente quando um agente de IA age sem supervisão adequada, e a resposta técnica para essa pergunta começa exatamente aqui: na capacidade de detectar o desvio no momento em que ele acontece, não semanas depois.
O que está em jogo quando o sistema atacado é jurídico
No jurídico, essas lacunas técnicas viram risco de outra natureza. Um sistema de IA que processa minutas, pesquisa jurisprudência ou organiza provas lida com informação protegida por sigilo profissional e por prazos que não se renegociam com um tribunal. Se a integridade de um modelo é comprometida e ninguém consegue provar o contrário, cada peça produzida por aquele sistema nos dias seguintes ao ataque passa a carregar uma dúvida que não deveria existir.
Isso muda a natureza da pergunta que uma empresa precisa responder. Não é apenas estamos seguros. É quando algo falhar, quanto tempo levamos para saber, provar e conter. A diferença entre essas duas perguntas é o que separa uma organização que investiu em segurança de IA de uma que apenas comprou a tecnologia.
Vale dizer com todas as letras: qualidade e confiabilidade não são atributos automáticos de um sistema de IA. São escolhas de engenharia, tomadas com disciplina, sustentadas ao longo do tempo. Nenhum fornecedor entrega isso pronto por padrão, e nenhuma empresa deveria assumir que entrega.
Perguntas frequentes
O que é segurança de IA no jurídico?
É o conjunto de práticas que protege sistemas de inteligência artificial usados em atividades jurídicas, como pesquisa de jurisprudência, redação de peças e análise documental, contra falhas, manipulação e uso indevido. Vai além da proteção de dados: inclui inventário dos sistemas em uso, capacidade de verificar a integridade de um modelo e um plano claro de resposta quando algo falha.
Por que a maioria das empresas não tem plano de resposta a ataques de IA?
Porque a adoção de IA cresceu mais rápido do que a maturidade de segurança em torno dela. Empresas colocaram modelos e agentes em produção para ganhar eficiência antes de montar a estrutura de defesa correspondente, o que criou uma lacuna entre quem usa IA e quem está pronto para responder quando ela falha.
Como um escritório de advocacia sabe se está exposto?
O primeiro sinal é a ausência de um inventário centralizado de tudo o que roda com IA na organização, incluindo agentes e integrações adotados informalmente por times individuais. Sem esse mapeamento, não há como avaliar risco nem responder a um incidente com velocidade.
O que muda quando um agente de IA age de forma incorreta no jurídico?
O erro de um agente pode se propagar por várias tarefas antes de ser percebido, porque agentes executam ações em sequência e delegam etapas entre si. No jurídico, isso pode significar uma peça protocolada com base em informação incorreta ou um prazo perdido por uma decisão automatizada que ninguém revisou a tempo.
Verificar a integridade de um modelo de IA depois de um ataque é possível?
Sim, mas exige preparação prévia. É preciso ter registros de comportamento do modelo antes do incidente para comparar depois, além de mecanismos técnicos que permitam auditar se os parâmetros e as respostas geradas continuam consistentes com o padrão esperado. Empresas sem esses registros dificilmente conseguem confirmar a integridade a tempo.
