Freios e contrapesos para a IA: o que separa uso confiável de chute com boa redação

O mercado jurídico já passou da fase de buscar modelos cada vez mais potentes. Entrou na fase da confiança operacional. E confiança, todo jurista aprendeu na faculdade, não nasce de boa vontade: nasce de freios e contrapesos. É exatamente isso que a engenharia de IA constrói em volta dos modelos — a disciplina que os técnicos chamam de harness.

Freios e contrapesos da IA são o conjunto de regras, integrações e checagens que ficam em volta do modelo de linguagem. O modelo dá o raciocínio bruto; a estrutura dita como esse raciocínio é cobrado, verificado e entregue.

Sem essa estrutura, um modelo de linguagem é um estagiário brilhante sem supervisão: pode entregar texto excelente ou jurisprudência inventada — e você não sabe qual dos dois recebeu. Com ela, o mesmo modelo vira assistente operacional auditável.

Por que isso virou urgência normativa

Os Enunciados 238 a 244 da IV Jornada de Direito Processual Civil do CJF (2025) e o Enunciado 57 do IBDFAM criaram um regime de responsabilização em três camadas para o uso de IA na advocacia: multa por litigância de má-fé, ofício à corregedoria e ação indenizatória do cliente contra o profissional descuidado.

O que os enunciados não dizem é como, na prática, o profissional se protege. A resposta técnica são os freios e contrapesos. Sem eles, o uso de IA fica preso no dilema "ou confio cegamente, ou não uso". Com eles, o uso vira uso auditado — o ponto de equilíbrio que a norma exige.

Os cinco componentes (mais um)

1. Agente — a união do modelo base com a estrutura de suporte: o que o sistema pode e não pode fazer, o que precisa verificar antes de responder.
2. Feedforward — as regras colocadas antes de o modelo agir: esqueleto obrigatório da peça, coleta de fatos e fontes antes da redação, bloqueio do atalho.
3. Feedback — verificação contínua da saída, em ciclo fechado: o artigo citado existe? está vigente? o precedente fala exatamente sobre o ponto?
4. Controle de alucinação — se a afirmação não bater com uma base validada (repositórios oficiais, base da instituição), o harness bloqueia ou força refazer com fonte verificável. É a resposta técnica direta ao Enunciado 239.
5. Auditoria — a cadeia de raciocínio documentada, cada citação com link para a fonte primária. Não é "eu confiei na IA"; é "a IA verificou na fonte X, eu conferi a fonte X, segue o protocolo".
6. Aprendizado contínuo — o componente que impede o harness de ser estático: o uso recorrente vira ferramenta permanente (uma skill nomeada e instalável), e cada ciclo refina o sistema.

Tese sem freios e contrapesos é chute com boa redação. Com eles, é produção jurídica com trilha de auditoria.

O espaço vazio: os freios e contrapesos de quem litiga

O setor privado já opera o conceito — das plataformas enterprise internacionais às boutiques brasileiras. Os tribunais têm seus sistemas internos (Victor no STF, Sócrates no STJ, Galileu no TRT-8). Mas onde está a estrutura de verificação de quem litiga — do escritório médio, do departamento jurídico, das instituições públicas?

Esse vazio é risco e oportunidade ao mesmo tempo. Risco, porque quem usa IA sem verificação está exposto às sanções dos enunciados. Oportunidade, porque quem estrutura os próprios freios e contrapesos primeiro define o padrão para os demais.

É o que venho construindo na prática, num órgão público do sistema de justiça, com um fluxo integrado ao processo eletrônico que impõe o esqueleto da peça antes da redação, verifica jurisprudência na fonte primária e registra cada passo. Não é teoria de palestra: é o sistema que uso todos os dias — e é exatamente por operá-lo que posso ensiná-lo.

Se a estrutura existe e a IA erra, quem responde?

Hoje, a responsabilidade continua de quem assina a peça. Os freios e contrapesos reduzem a probabilidade do erro; não eliminam a responsabilidade jurídica por ele. Mas os registros de auditoria mudam o jogo probatório: documentam que o profissional fez a sua parte. No médio prazo, o debate sobre distribuição de responsabilidade entre profissional e fornecedor de IA vai chegar — e quem opera com verificação estruturada chega a esse debate com prova, não com narrativa.