A boia furada da IA generativa: ignorar a epistemologia é afundar o processo penal

“Quando já não se pergunta como se sabe, qualquer coisa pode parecer verdade.”

Por Glênio S Guedes ( advogado )

Em determinados momentos históricos, o Direito não sucumbe a crises — sucumbe a facilidades. E poucas facilidades são tão sedutoras quanto aquelas que prometem respostas imediatas para problemas que sempre exigiram método, tempo e prudência. A inteligência artificial generativa, com sua desenvoltura sintática e sua impressionante capacidade de produzir enunciados coerentes, passou, com discreta desenvoltura, a ocupar espaços que antes exigiam estudo — o que talvez explique parte considerável de seu sucesso.

O fenômeno, porém, tem sido recebido com entusiasmo — e, como frequentemente ocorre nesses casos, com parcimônia na vigilância.

Porque a questão central não é saber se a máquina responde bem, mas se sabemos justificar aquilo que ela responde. E, convenha-se, a resposta pronta tem um charme particular: dispensa o esforço de perguntar, economiza o trabalho de duvidar e, não raramente, oferece a confortável sensação de que compreender é apenas uma questão de formular a pergunta correta.

E é precisamente nesse ponto que emerge a epistemologia — não como ornamento filosófico, mas como condição de possibilidade do próprio Direito. A epistemologia não se ocupa daquilo que se afirma, mas do modo como se chega à afirmação. Pergunta pelas condições de validade do conhecimento, pelos critérios de sua confiabilidade, pelos limites de sua pretensão de verdade. Sem essa indagação prévia, todo enunciado — por mais convincente que pareça — permanece suspenso no ar, sustentado mais pela forma do que pelo fundamento.

No processo penal, essa exigência assume contornos ainda mais rigorosos. Não se trata de persuadir, mas de justificar; não se trata de parecer verdadeiro, mas de poder ser demonstrado como tal. A prova, nesse contexto, não é um simples dado informacional, mas o resultado de um percurso cognitivo que deve ser, ao mesmo tempo, transparente, controlável e contestável — três qualidades que, curiosamente, não costumam acompanhar aquilo que surge pronto.

É justamente esse tripé — transparência, controle e contestação — que a inteligência artificial generativa não consegue oferecer. Não por descuido, mas por natureza.

A recente controvérsia submetida ao Superior Tribunal de Justiça ilustra, com rara clareza, os riscos dessa insuficiência. Em investigação por injúria racial, após a realização de perícia oficial que afastara a ocorrência do delito com base em metodologia científica adequada — o que, em outros tempos, poderia encerrar a questão —, a autoridade policial optou por submeter o mesmo material a sistemas de inteligência artificial generativa. O resultado, apresentado sob a forma de “relatório técnico”, contrariava frontalmente as conclusões periciais e passou a embasar a persecução penal.

A controvérsia ganhou contornos paradigmáticos no julgamento do Habeas Corpus nº HC 1.059.475/SP, relatado pelo ministro Reynaldo Soares da Fonseca, no qual a 5ª Turma do Superior Tribunal de Justiça foi instada a examinar a admissibilidade de um artefato cognitivo produzido por sistemas de inteligência artificial generativa, utilizado para suplantar laudos periciais oficiais. Ao afastar a utilização desse material, o Tribunal não apenas restaurou a regularidade procedimental, mas reafirmou — ainda que sem o vocabulário próprio da teoria do conhecimento — um princípio epistemológico elementar: sem metodologia verificável, não há prova.

O ponto merece detida reflexão, ainda que, à primeira vista, pareça óbvio — e, como se sabe, o óbvio costuma ser a primeira vítima do entusiasmo.

A perícia tradicional — com todas as suas imperfeições humanas — expõe seus métodos, descreve seus procedimentos, permite a reprodução de seus resultados. Submete-se, portanto, ao crivo da crítica intersubjetiva. Já a inteligência artificial generativa opera em regime de opacidade. Seus resultados não são acompanhados de uma explicação completa de seu processo de formação; seus critérios não são integralmente acessíveis; sua lógica interna, frequentemente descrita como uma “caixa preta”, escapa ao exame direto dos operadores do Direito — o que não tem impedido que se confie nela com notável tranquilidade.

Tem-se, assim, uma resposta sem percurso.

E, no Direito, respostas sem percurso não constituem conhecimento — constituem, quando muito, sugestões que, por alguma razão, passaram a ser levadas a sério.

Essa constatação, por si só, já seria suficiente para justificar a cautela. Mas há um elemento adicional que agrava o quadro e que a teoria processual contemporânea tem o mérito de evidenciar: o papel do contraditório como condição epistemológica do processo.

Não se trata aqui do contraditório em sua acepção empobrecida, como mera bilateralidade da oitiva — essa versão minimalista que satisfaz a forma e esquece a função. A análise epistêmica do contraditório revela algo mais profundo: o processo é, em sua essência, uma instância comunicativa estruturada pela interlocução entre os sujeitos. Sua legitimidade não decorre apenas da decisão final, mas do percurso dialético que a antecede — do confronto de argumentos, da possibilidade de resposta, da participação efetiva das partes na construção do resultado.

O processo, em suma, não descobre a verdade; constrói, sob determinadas condições, uma verdade possível — o que, para alguns, pode parecer pouco, mas é tudo o que se pode legitimamente alcançar.

Essa dimensão dialética — que remonta à própria tradição clássica do pensamento ocidental e que, no âmbito jurídico, se expressa na máxima audiatur et altera pars — não é um adorno retórico do processo. É o seu núcleo estruturante. Sem ela, o procedimento deixa de ser um espaço de construção racional do conhecimento e se transforma em um mecanismo de imposição de conclusões — o que, em certos contextos, pode até parecer eficiente, mas dificilmente será legítimo.

À luz dessa compreensão, o problema da inteligência artificial generativa revela sua gravidade em toda a sua extensão.

Porque a IA não participa do diálogo — o que não a impede, curiosamente, de influenciar o resultado como se tivesse participado.

Não responde a impugnações, não esclarece seus critérios, não ajusta seus fundamentos diante da crítica. Produz enunciados que ingressam no processo como dados acabados, impermeáveis ao circuito dialético que caracteriza o contraditório. E, ao fazê-lo, introduz no interior do procedimento um elemento que não pode ser efetivamente confrontado — situação que, em qualquer outro contexto, seria prontamente rejeitada.

Ora, se o contraditório é a forma pela qual o processo produz conhecimento confiável, então toda “prova” que não se deixa integrar a essa dinâmica não apenas fragiliza o sistema — ela o desfigura.

Não há exagero nessa afirmação, ainda que a aparência de modernidade sugira o contrário.

Sem a possibilidade de contestação, a prova perde sua natureza. Sem a possibilidade de participação, o processo perde sua legitimidade. E, sem a mediação dialética que permite a construção intersubjetiva da decisão, o próprio ato jurisdicional aproxima-se perigosamente de um exercício solitário de poder — agora, ao que parece, acompanhado por um assistente algorítmico que não explica o que faz, mas o faz com convicção suficiente para inspirar confiança.

A esse quadro soma-se um equívoco recorrente, que convém desfazer: a confusão entre probabilidade e verdade — confusão compreensível em tempos apressados, mas incompatível com a responsabilidade do processo penal.

A inteligência artificial generativa opera por padrões estatísticos, por frequências linguísticas, por associações probabilísticas - em suma, um papagaio estocástico... Diante da ambiguidade, opta pelo mais provável, não pelo mais verdadeiro. Seu funcionamento, longe de ser um defeito, é a própria expressão de sua arquitetura. Mas o Direito — e, em especial, o processo penal — não pode se contentar com probabilidades quando o que está em jogo é a determinação de fatos juridicamente relevantes, ainda que a probabilidade venha acompanhada de uma redação elegante.

A verdade processual não é a hipótese mais frequente; é aquela que pode ser demonstrada por meio de procedimentos que resistam à crítica — o que, convenhamos, dá mais trabalho.

Quando se substitui esse critério por uma lógica de plausibilidade estatística, o que se tem não é uma modernização do processo, mas uma regressão silenciosa a formas de decisão que prescindem de justificação rigorosa — o que, para alguns, pode até parecer progresso.

E há ainda um último aspecto, talvez o mais inquietante de todos.

A inteligência artificial generativa não se limita a interpretar dados; ela os produz. Diferentemente da prova tradicional, que parte de vestígios da realidade, a IA pode gerar conteúdo que simula aderência aos fatos sem necessariamente possuí-la — o que não deixa de ser uma qualidade notável, embora perigosa.

Instala-se, então, uma forma de circularidade epistêmica: o sistema cria o dado e, em seguida, oferece sua interpretação. A distinção entre evidência e análise — fundamental para qualquer empreendimento cognitivo sério — dissolve-se em um circuito fechado de produção e validação interna, no qual a coerência substitui a correspondência.

Nesse ambiente, a aparência de verdade pode substituir a verdade possível — e, não raro, com maior aceitação.

E, quando isso ocorre, o processo penal deixa de ser um instrumento de contenção do poder punitivo para tornar-se um mecanismo de legitimação de decisões cuja base cognitiva já não pode ser plenamente escrutinada — o que, paradoxalmente, pode transmitir uma sensação ainda maior de segurança.

A metáfora da boia furada, que intitula estas reflexões, ganha, assim, sua densidade completa. A inteligência artificial generativa oferece ao operador do Direito uma promessa de sustentação — uma resposta rápida, uma solução aparente, um atalho cognitivo. Mas, desprovida de método verificável, de transparência e de inserção na dinâmica dialética do contraditório, essa promessa não se cumpre — ainda que, por algum tempo, pareça funcionar.

A boia existe. Mas não sustenta — embora, à primeira vista, dê a impressão contrária.

E aquele que nela se apoia, dispensando o esforço de compreender os fundamentos do conhecimento que utiliza, corre o risco de afundar — não por falta de respostas, mas por excesso de confiança nelas, o que talvez seja mais comum do que se imagina.

Recolocar a epistemologia no centro do debate jurídico não é, portanto, um luxo teórico. É uma exigência prática, imposta pela própria responsabilidade que recai sobre o processo penal. Perguntar “como sabemos?” é a única forma de preservar a integridade de um sistema que não pode se dar ao luxo de errar sem explicar — ainda que explicar dê mais trabalho do que simplesmente aceitar.

Porque, no final, o problema não está na inteligência das máquinas.

Está na disposição humana de aceitar respostas sem exigir razões.

E, quando essa disposição se instala, o naufrágio deixa de ser uma possibilidade.

Torna-se apenas uma questão de tempo.