Em junho de 2023, um advogado em Nova York compareceu perante um juiz federal e citou seis decisões judiciais que supostamente sustentavam a causa de seu cliente. Havia apenas um problema: nenhuma delas era real. Ele havia pedido ao ChatGPT que encontrasse precedentes, e o modelo entregou seis referências apresentadas com convicção, formatadas corretamente e inteiramente inventadas, incluindo as citações e os números dos processos. O juiz aplicou uma multa de US$ 5.000 ao advogado. A história correu o mundo como um alerta.
Três anos depois, a história deixou de ser apenas um alerta. Tornou-se um padrão. Damien Charlotin, pesquisador da HEC Paris, mantém uma base pública de casos judiciais em que alguém apresentou material inventado por IA e foi descoberto. A lista já reúne mais de 1.700 decisões em dezenas de países e recebe vários novos registros a cada semana. As penalidades passaram daquela multa inicial de US$ 5.000 para valores de seis dígitos, e diversos advogados foram suspensos em consequência disso.
É este o ponto que deveria preocupar qualquer pessoa que trabalhe com compliance. Os advogados são descobertos porque é possível verificar uma referência falsa. Basta consultar o repertório de jurisprudência e pesquisar o processo para que a invenção desmorone em minutos. Um fluxo de trabalho de compliance raramente conta com essa proteção integrada. Quando uma ferramenta de IA declara que uma contraparte não apresenta problemas ou atribui a um fundador uma pontuação de risco de 22 em 100, quase ninguém vai atrás dos detalhes. A resposta é simplesmente arquivada, e a equipe segue em frente. Se estiver errada, em geral você só descobre mais tarde, quando um regulador, um jornalista ou um prejuízo revela o problema por você.
Portanto, a questão por trás de “posso confiar na IA em compliance?” não é se o modelo é inteligente. Os modelos atuais são extremamente inteligentes. A questão é se você consegue conferir o trabalho deles, porque, em uma função regulada, uma resposta que não pode ser verificada não é um ativo. É exposição ao risco com boa gramática.
O problema não é a IA errar. É errar com convicção.
Grandes modelos de linguagem, por si só, nunca consultam informações de fato. Eles preveem texto. Você fornece uma instrução, e o modelo gera a continuação estatisticamente mais provável. O resultado está certo na maioria das vezes e, de vez em quando, está errado da forma mais fluente que se possa imaginar. O setor adotou o termo alucinações para esses erros, mas o nome não dá a dimensão do perigo. Uma alucinação chega sem se anunciar. Não vem acompanhada de aviso nem de uma pontuação de confiança mais baixa que permita perceber o problema. Ela tem exatamente a aparência de uma resposta correta e usa o mesmo tom calmo e categórico de tudo o que o modelo produz.
Na maioria dos contextos, isso é um pequeno inconveniente. Em um contexto regulado, é uma fonte de responsabilidade, e a maneira mais clara de entender por quê é considerar as duas formas pelas quais uma ferramenta de triagem pode errar. Uma ferramenta que inventa uma correspondência com uma lista de sanções custa uma tarde de trabalho: um analista investiga o resultado inexistente, confirma que não há nada ali e encerra o caso. É frustrante, mas o erro é visível e acaba sendo corrigido pelo próprio processo. Uma ferramenta que inventa um resultado sem restrições funciona de forma oposta. Ela falha em silêncio. Ninguém investiga um sinal verde. O erro permanece no seu arquivo, com toda a aparência de uma diligência bem executada, até o dia em que essa aparência deixa de se sustentar.
Essas formas de falha se aplicam diretamente ao trabalho de compliance. Pense em uma verificação de mídia negativa que atribui um caso de fraude à pessoa errada, alguém que apenas tem o mesmo nome. Ou em um resumo sobre beneficiários finais que descreve uma estrutura com total convicção e erra em um detalhe pequeno, mas decisivo. Ou em uma justificativa de risco muito bem escrita que não remete a nada que você consiga encontrar de fato. Tudo isso parece informação relevante. Nada disso realmente é.
E o problema não se limita aos chatbots de uso geral, por mais que os fornecedores tentem tranquilizar você a esse respeito. Um estudo de Stanford amplamente citado testou ferramentas desenvolvidas especificamente para pesquisa jurídica, vendidas a profissionais com base em uma promessa de confiabilidade, e ainda assim encontrou respostas incorretas ou enganosas em uma parcela significativa das consultas. Direcionar um modelo a um setor de alta responsabilidade não desativa as alucinações. Na prática, apenas aumenta o custo de fingir que o problema foi resolvido.
Dois tipos de IA, e apenas um que você consegue defender
A IA que está chegando ao trabalho de compliance geralmente se divide em dois tipos, e saber distingui-los importa mais do que qualquer estatística de acurácia em uma apresentação bem produzida.
Existe a caixa-preta. Você fornece uma entidade, e ela emite um veredito, normalmente na forma de um simples número. Risco: 82. Esse número é gerado por uma lógica de pontuação fechada dentro de um modelo que você não pode examinar, com base em dados aos quais não tem acesso e em fatores cujos pesos o próprio fornecedor muitas vezes tem dificuldade de explicar. Enquanto a pontuação está correta, o resultado parece quase mágica. Quando ela erra, você fica sem recursos: não consegue identificar nem contestar o erro, pois não tem como reconstruir o caminho que levou a ferramenta àquele resultado. Uma conclusão que você não consegue reconstruir é uma conclusão que não consegue sustentar, seja perante seu próprio comitê, seja perante qualquer outra pessoa.
Existe também a IA vinculada a fontes. Em vez de um veredito, ela entrega uma constatação acompanhada das evidências que a sustentam. Esta pessoa consta nesta lista de sanções. Esta empresa é citada neste documento protocolado. Esta alegação vem desta notícia, com data e link para a própria fonte. A IA continua fazendo o trabalho pesado. Ela analisa centenas de milhares de documentos, elimina informações irrelevantes, identifica quais registros se referem à mesma entidade e sintetiza o que vale a pena saber. O ponto crucial é que cada sinal apresentado remete a um material que uma pessoa pode acessar e examinar diretamente.
A diferença não é superficial e aparece justamente no momento decisivo: quando a IA erra, porque os dois tipos vão errar às vezes. Na caixa-preta, o erro fica invisível, embutido em um número que parece tão confiável quanto qualquer outro. Em um resultado vinculado a fontes, o erro é apenas um link cujo conteúdo não confirma o que a ferramenta afirmou, e um revisor o identifica em menos de um minuto. Um sistema falha em silêncio. O outro falha de forma segura. Em uma função cujo trabalho é detectar o que passa despercebido aos demais, essa diferença não é um detalhe. É o fundamento de todo o projeto.
“Mostre como chegou ao resultado” está se tornando uma exigência legal
Por muito tempo, a falta de transparência era simplesmente parte do acordo. Você executava um modelo, confiava no resultado e poucas pessoas se davam ao trabalho de perguntar como a conclusão havia sido alcançada. Esse tempo está chegando rapidamente ao fim.
O EU AI Act é um bom ponto de partida para observar essa mudança. Sua aplicação geral começou em agosto de 2026, e ele parte da premissa de que a transparência é inegociável, aumentando as exigências conforme aumentam os riscos envolvidos. Sua categoria de alto risco inclui usos como a pontuação de crédito e exige, nesses casos, sistemas suficientemente transparentes para que as pessoas que dependem deles possam interpretar corretamente os resultados e utilizá-los de forma adequada. O descumprimento pode resultar em multas de dezenas de milhões de euros. É possível discutir quando cada disposição específica passa a valer, mas a direção é inequívoca. Os reguladores decidiram que querem conhecer o raciocínio.
E a Europa é apenas um exemplo de algo que, de todo modo, antecede a atual onda de IA. O GDPR já permite que as pessoas se oponham a decisões tomadas exclusivamente por máquinas quando as consequências para elas são graves, além de solicitar informações significativas sobre a lógica envolvida. Nos Estados Unidos, as regras de concessão justa de crédito obrigam os credores, há décadas, a apresentar um motivo específico para cada recusa, e “o algoritmo decidiu” nunca esteve entre as justificativas aceitáveis. A mesma lógica se aplica à prevenção à lavagem de dinheiro: os padrões da FATF, que fundamentam os regimes de PLD em quase todo o mundo, tratam essencialmente de manter registros e ser capaz de justificar decisões. Um regulador como a FinCEN, nos Estados Unidos, espera que as empresas identifiquem um risco, ajam sobre ele e mantenham documentação que resista a uma análise rigorosa.
Há, portanto, um conjunto de reguladores que partiram de contextos diferentes e chegaram à mesma expectativa. Se a IA ajudou você a decidir, esteja preparado para explicar a decisão e apresentar as evidências que a sustentam. Uma caixa-preta não atende a essa exigência. Um sistema vinculado a fontes atende sem que ninguém precise fazer trabalho adicional, pois as evidências estavam presentes desde o início.
É na auditoria que a caixa-preta deixa de se sustentar
Deixe a teoria de lado e imagine uma terça-feira comum. Um regulador, um auditor interno ou um cotista apreensivo faz uma pergunta simples: por que você aprovou esta empresa específica há quatorze meses? Desde então, ela apareceu em uma investigação desfavorável, e alguém quer saber o que você sabia e quando ficou sabendo.
Se sua ferramenta era uma caixa-preta, você tem um número de mais de um ano atrás e muito pouco para contextualizá-lo. Não consegue apresentar as fontes consideradas, porque a ferramenta nunca as mostrou. Não consegue demonstrar que realizou uma diligência razoável, porque nunca teve acesso ao raciocínio. Resta tentar explicar uma decisão que você não consegue reconstruir. Essa é uma das piores situações possíveis em uma fiscalização, e você a escolheu no dia em que comprou a ferramenta, percebendo isso ou não.
Se sua ferramenta era vinculada a fontes, basta recuperar o registro. Estes eram os sinais disponíveis na época. Estas são as fontes que sustentam cada um deles. Esta parte já era pública, e esta outra só surgiu depois, sem que fosse razoável esperar que você a conhecesse antes. A decisão se sustenta porque você consegue apresentar as evidências em que ela se baseou. É isso que distingue um controle que você pode de fato defender de um palpite em que decidiu confiar numa terça-feira, há mais de um ano.
A capacidade de auditoria não é um recurso que você valoriza em um dia comum. Ela fica discretamente em segundo plano, sem acrescentar nada à demonstração do produto. É o que você vai desejar ter naquele dia ruim, quando já será tarde demais para incorporá-la.
Como é, na prática, uma IA confiável para compliance
Você não precisa aceitar a palavra de nenhum fornecedor sobre isso, nem a nossa. Existe um teste curto e prático que você pode aplicar a qualquer ferramenta de IA envolvida em uma decisão sujeita a regulação, antes de assinar qualquer contrato.
- Cada constatação tem um link para uma fonte primária que você pode abrir e ler por conta própria. Sem link, sem confiança. Esse é o critério mais importante, e os demais decorrem dele.
- A IA resume e classifica, mas nunca afirma um fato sem indicar sua origem. Se não consegue citar a fonte, não deve fazer a afirmação.
- É possível examinar a correspondência entre entidades. Você consegue ver por que a ferramenta decidiu que este “John Smith” é aquele outro, sem precisar aceitar a correspondência por um ato de fé.
- Cada decisão deixa um registro com data e hora que você pode recuperar meses depois, sem precisar de um projeto de recuperação de dados.
- Uma pessoa continua participando do processo. O papel da ferramenta é identificar riscos e apresentar evidências, sem emitir sozinha o julgamento final.
Observe que nada disso trata de tornar a IA mais poderosa. Trata-se de exigir que ela preste contas. O setor passou alguns anos buscando modelos que soassem cada vez mais seguros de si. O que uma equipe de compliance realmente precisa é o contrário: uma IA com humildade suficiente para mostrar de onde tirou cada informação, para que você possa conferir tudo e assumir a responsabilidade pela decisão.
A parte que exige franqueza
Seria conveniente encerrar declarando que a IA vinculada a fontes nunca erra. Mas é claro que erra. Uma fonte pode ficar desatualizada. Um registro pode conter uma informação incorreta. Um revisor pode interpretar mal as próprias evidências apresentadas. Vincular cada sinal à sua fonte não torna um sistema perfeito, e qualquer fornecedor que prometa perfeição está oferecendo exatamente o excesso de confiança que colocou aqueles advogados em apuros no início desta história.
A afirmação real é mais restrita e resiste quando colocada à prova. A IA verificável falha de uma forma que você consegue detectar. A IA de caixa-preta falha de uma forma que você não consegue. Quando um erro silencioso pode levar a uma ação regulatória, a uma manchete ou a um prejuízo de sete dígitos, a possibilidade de detectá-lo deixa de ser apenas um recurso desejável. Passa a ser a razão de todo esse trabalho.
Perguntas frequentes
Então, você pode confiar na IA em compliance?
No fim, confiança simplesmente não é a perspectiva adequada para essa análise. Não é preciso confiar em uma ferramenta que mostra como chegou ao resultado, assim como não é preciso confiar em uma calculadora cuja resposta você pode conferir à mão. Você verifica, leva segundos e segue em frente. É exatamente essa possibilidade que a vinculação a fontes oferece e que a pontuação de caixa-preta elimina sem dizer uma palavra.
A Beady foi construída com base nesse princípio. Ela verifica entidades em mais de 100.000 fontes públicas, elimina cerca de 95% das informações irrelevantes e vincula cada sinal à sua fonte original. Assim, cada constatação sobre sanções e mídia negativa pode ser verificada de forma independente pela sua equipe e por um regulador. Ela resume e classifica. Não inventa.
Se você quiser ver como funciona a inteligência de risco verificável aplicada à sua própria carteira, agende uma demo. Vamos mostrar a você, com as fontes incluídas.
