Algocracia: quando o algoritmo começa a decidir por você
Existe um termo para descrever o momento em que algoritmos deixam de apoiar decisões e passam a tomá-las: algocracia. Não é ficção científica nem um conceito distante, é uma discussão que já acontece no Brasil, à medida que sistemas de inteligência artificial assumem funções que antes exigiam julgamento humano direto.
Do apoio à decisão para a decisão em si
Há uma diferença central entre um algoritmo que organiza informação para um servidor público decidir e um algoritmo que decide sozinho — triando processos, classificando risco, priorizando atendimentos ou até negando benefícios. A primeira função é ferramenta. A segunda é poder. E poder, em uma democracia, precisa de legitimidade, transparência e possibilidade de contestação.
O artigo publicado pela ConJur descreve exatamente esse avanço: funções estatais cada vez mais mediadas — ou diretamente executadas — por sistemas algorítmicos, muitas vezes sem que o cidadão afetado saiba que uma máquina, e não uma pessoa, tomou aquela decisão sobre sua vida.
O risco não é a tecnologia — é a ausência de supervisão
Não se trata de rejeitar IA na administração pública.
Eficiência, redução de erro humano e agilidade em processos massivos são ganhos reais.
O risco está em automatizar decisões sem manter dois elementos essenciais: explicabilidade (a pessoa afetada consegue entender por que a decisão foi tomada) e contestabilidade (existe um caminho real para reverter uma decisão errada).
Sem esses dois pilares, a algocracia se torna uma forma de poder sem rosto — decisões que afetam vidas, mas que ninguém especificamente assina, entende ou pode ser responsabilizado por elas.
O papel do Direito nesse momento
Esse é o tipo de debate em que o Direito precisa estar presente na construção do sistema, não apenas na correção do dano depois que ele acontece. Definir onde a automação é bem-vinda e onde a decisão humana é inegociável é, hoje, uma das fronteiras mais importantes do Direito público e digital.
É também o princípio que deveria orientar qualquer tecnologia jurídica que se preze: IA como parceira que amplia a capacidade de análise e decisão do profissional — nunca como substituta do julgamento humano em questões que exigem discernimento, contexto e responsabilidade.
A eficiência importa.
Mas em Direito, como no Estado, eficiência sem supervisão humana não é progresso — é risco disfarçado de inovação.
