Por que a inteligência artificial inventa e como reduzir esse risco na pesquisa jurídica

Um número de processo plausível, uma ementa bem escrita e uma conclusão apresentada com segurança podem esconder um problema: o julgamento citado não existe. Em outros casos, a decisão existe, mas não afirma o que a inteligência artificial atribuiu a ela.

Esses erros costumam receber o nome de alucinações. Na pesquisa jurídica, podem aparecer como referências inventadas, mistura de julgados, transcrições inexatas ou conclusões que ultrapassam o conteúdo das fontes.

No artigo sobre de onde vem a jurisprudência que a IA cita, explicamos a diferença entre responder a partir do treinamento, pesquisar na internet e consultar um acervo jurídico. Essa diferença ajuda a entender por que a invenção acontece e como organizar um trabalho menos exposto a ela.

A IA aprendeu a produzir linguagem, mas isso não garante a verdade de cada frase

Um modelo de linguagem aprende padrões em grandes conjuntos de dados e usa esse aprendizado para produzir respostas. Seu funcionamento permite explicar conceitos, relacionar informações e desenvolver argumentos. Porém, a capacidade de gerar uma frase coerente não vem acompanhada de uma garantia de que ela corresponde aos fatos.

O NIST identifica a produção de informações falsas apresentadas com confiança como um risco próprio dos sistemas generativos. O texto pode parecer convincente porque segue padrões conhecidos, mesmo quando seu conteúdo está errado. Perfil de riscos da IA generativa do NIST.

No direito, a forma pode enganar especialmente bem. Julgados, ementas e referências processuais têm estruturas reconhecíveis. Um modelo pode reproduzir essa aparência sem ter localizado o documento que supostamente descreve.

A pergunta também pode carregar uma informação falsa

Considere um pedido hipotético: “Explique a decisão em que o tribunal reconheceu determinada tese”.

A pergunta já pressupõe que essa decisão existe e que reconheceu aquela tese. Se o sistema aceitar a premissa sem verificá-la, poderá construir uma explicação sobre algo que não aconteceu.

Uma formulação mais cuidadosa começa pela investigação: “Verifique se existem decisões sobre esta questão, quais entendimentos foram encontrados e quais documentos os sustentam”.

O mesmo cuidado vale para pedidos que exigem uma quantidade fixa de precedentes. Se a pesquisa encontrou pouco material pertinente, completar uma lista não pode se tornar mais importante do que preservar a fidelidade às fontes.

A invenção pode acontecer mesmo quando há documentos

Fornecer fontes melhora as condições de trabalho, mas não elimina os erros. A busca pode recuperar material pouco relevante. Um arquivo pode estar incompleto. Uma ressalva pode se perder durante a síntese.

Também é possível confundir partes diferentes de um julgamento. O relatório pode reproduzir a alegação de uma parte; um voto vencido pode defender uma posição que não prevaleceu. Encontrar uma frase dentro do acórdão não basta para atribuí-la ao entendimento adotado pelo tribunal.

Por isso, a conferência precisa responder a perguntas distintas: o documento existe? O trecho está nele? Quem sustenta aquela afirmação? Ela corresponde ao fundamento da decisão?

Comece pela pesquisa e avance depois para a redação

Uma prática útil é separar a localização das fontes da construção do argumento.

Primeiro, delimite a questão e busque os documentos. Depois, examine quais resultados são pertinentes e o que efetivamente sustentam. A redação vem apoiada nesse material.

Essa sequência torna as lacunas mais visíveis. Se a fonte necessária não foi encontrada, ainda há uma pesquisa a fazer. Produzir mais texto não resolve essa ausência.

No LexGPT, o Juris consulta um acervo próprio de documentos jurídicos para apoiar a elaboração da resposta. Essa arquitetura oferece material concreto ao modelo e facilita a conferência das referências. Sua utilidade continua dependendo da cobertura disponível, da qualidade da recuperação e da leitura fiel dos documentos.

Dê espaço para uma resposta incompleta

Uma pesquisa pode terminar com uma dúvida, uma divergência ou a falta de material suficiente. O pedido à IA deve admitir esses resultados.

Vale explicitar que dados ausentes não devem ser completados por suposição. Se a data, o relator ou o número do processo não puderem ser confirmados, a resposta deve indicar essa limitação.

A documentação da Anthropic recomenda permitir que o modelo reconheça incerteza, restringir a resposta aos documentos fornecidos e associar afirmações a trechos que as sustentem. São medidas de redução de risco, sem garantia de eliminação dos erros. Orientações para reduzir alucinações.

Na pesquisa jurídica, há uma distinção especialmente importante: “não encontrei no material consultado” não significa “não existe”.

Peça evidência que você consiga conferir

Solicitar fontes é um começo. O próximo passo é exigir uma ligação clara entre a afirmação e o documento.

Para cada conclusão relevante, procure identificar o julgado correspondente e o trecho que permite sustentá-la. Ao abrir a referência, confira se o texto citado está presente e se o contexto preserva seu significado.

Observe também a diferença entre transcrição e paráfrase. Aspas indicam reprodução literal. Uma explicação escrita pela IA pode ser útil, mas não deve parecer uma passagem extraída do acórdão quando não é.

Esse cuidado permite detectar um erro menos evidente do que a invenção de um processo: usar uma fonte verdadeira para sustentar uma afirmação que ela não contém.

Procure também o que contraria a hipótese

Uma pergunta orientada apenas a confirmar uma tese pode produzir uma pesquisa incompleta. Peça que a ferramenta procure entendimentos contrários, ressalvas e circunstâncias que limitem a aplicação dos precedentes.

Isso não garante uma busca exaustiva. Ajuda, porém, a organizar a investigação para além dos resultados favoráveis.

Na leitura, examine se os fatos e a questão jurídica do precedente são comparáveis ao problema pesquisado. Uma decisão pode ser autêntica e corretamente resumida, mas pouco pertinente ao argumento que se pretende construir.

Não transforme a revisão da IA em prova de correção

Pedir ao modelo que revise a própria resposta pode ajudar a encontrar inconsistências. A confirmação produzida por ele, entretanto, não substitui a consulta à fonte.

O mesmo vale para enviar o texto a outro modelo. A concordância entre respostas pode orientar uma nova verificação, mas não comprova a existência ou o conteúdo de um julgamento.

A conferência mais útil acrescenta evidência: abrir o documento, localizar a passagem e confrontá-la com a afirmação. Perguntar apenas “você tem certeza?” pode resultar em outra frase confiante.

Um pedido que organiza esses cuidados

Você pode adaptar esta instrução à ferramenta e ao material disponível:

Pesquise a questão no acervo disponível e informe o recorte consultado. Use apenas documentos efetivamente recuperados para sustentar afirmações sobre julgados. Identifique as fontes e os trechos relevantes, distinguindo transcrição, resumo e inferência. Procure entendimentos contrários e ressalvas. Não complete dados ausentes nem invente referências para atingir uma quantidade de resultados. Se o material for insuficiente, indique a lacuna e o que ainda precisa ser verificado.

Esse pedido organiza o trabalho, mas depende das capacidades reais da ferramenta. Uma instrução para pesquisar não concede acesso a uma base que o sistema não possui.

Ao usar o Juris, confira o acervo selecionado, abra os documentos importantes e examine os fundamentos antes de incorporá-los ao seu texto. É nessa ligação entre pesquisa, leitura e revisão que a IA pode contribuir para um trabalho jurídico mais confiável.

Desenvolver esses hábitos faz parte do aprendizado contínuo de usar inteligência artificial: conforme o uso avança, formular tarefas e avaliar resultados se tornam tão importantes quanto aprender a interface.