In juni 2023 stond een advocaat in New York voor een federale rechter en verwees hij naar zes rechterlijke uitspraken die de zaak van zijn cliënt zouden ondersteunen. Er was maar één probleem: geen ervan bestond. Hij had ChatGPT gevraagd om jurisprudentie te zoeken. Het model leverde zes verwijzingen die overtuigend overkwamen en correct waren opgemaakt, maar volledig verzonnen waren, tot aan de citaten en zaaknummers toe. De rechter legde hem een boete van $ 5.000 op. Het verhaal ging de wereld rond als waarschuwing.
Drie jaar later is het geen waarschuwend verhaal meer. Het is een patroon geworden. Damien Charlotin, onderzoeker aan HEC Paris, houdt een openbare database van rechtszaken bij waarin iemand door AI verzonnen materiaal indiende en daarop werd betrapt. De lijst telt inmiddels meer dan 1.700 uitspraken uit tientallen landen en groeit wekelijks met meerdere nieuwe gevallen. De geldelijke sancties zijn opgelopen van die eerste boete van $ 5.000 tot bedragen van zes cijfers. Ook zijn verschillende advocaten geschorst.
Dit zou iedereen die in compliance werkt zorgen moeten baren. Advocaten worden betrapt omdat een verzonnen verwijzing te controleren is. Sla de jurisprudentiebundel open, doorzoek het zaakregister en het verzinsel valt binnen enkele minuten door de mand. In complianceprocessen is zo’n vangnet zelden ingebouwd. Wanneer een AI-tool een tegenpartij vrij van risico’s verklaart of een oprichter een risicoscore van 22 op 100 geeft, zoekt vrijwel niemand verder. Het antwoord wordt opgeslagen en het team gaat door. Als het onjuist blijkt te zijn, hoor je dat meestal pas later, wanneer een toezichthouder, een journalist of een verlies de fout voor je aan het licht heeft gebracht.
De eigenlijke vraag achter ‘kan ik AI vertrouwen bij compliance?’ is dus niet of het model slim is. De huidige modellen zijn buitengewoon slim. De vraag is of je hun werk kunt controleren. Binnen een gereguleerde functie is een antwoord dat je niet kunt verifiëren namelijk geen aanwinst. Het is een risico in goed geformuleerde zinnen.
Het probleem is niet dat AI fouten maakt. Het probleem is dat AI daarbij zo zeker klinkt.
Grote taalmodellen zoeken zelf nooit echt iets op. Ze voorspellen tekst. Je geeft het model een prompt en het genereert het statistisch meest waarschijnlijke vervolg. Dat levert meestal een juist resultaat op, maar af en toe ook een fout die zo vloeiend mogelijk wordt verwoord. De sector noemt deze missers inmiddels hallucinaties, maar dat woord doet onvoldoende recht aan het gevaar. Een hallucinatie kondigt zichzelf niet aan. Er staat geen waarschuwing bij en er is geen lagere betrouwbaarheidsscore die je erop wijst. Ze ziet er precies zo uit als een correct antwoord en heeft dezelfde kalme, gezaghebbende toon als alles wat het model verder produceert.
In de meeste situaties is dat hooguit lastig. In een gereguleerde omgeving levert het een risico op. Dat wordt het duidelijkst als je kijkt naar de twee manieren waarop een screeningtool de fout in kan gaan. Een tool die een sanctiematch verzint, kost je een middag: een analist onderzoekt de vermeende match, stelt vast dat er niets aan de hand is en sluit de melding. Frustrerend, maar duidelijk zichtbaar en met een ingebouwde correctie. Een tool die ten onrechte een resultaat zonder risico’s presenteert, doet het tegenovergestelde. De fout blijft onopgemerkt. Niemand onderzoekt ooit een groen licht. De gemiste bevinding blijft in je dossier staan en ziet er uit als zorgvuldig onderzoek, tot op de dag dat die schijn niet langer houdbaar is.
Deze manieren waarop het misgaat, zijn direct herkenbaar in het compliancewerk. Denk aan een controle op negatieve media die een fraudezaak koppelt aan de verkeerde persoon, alleen omdat die dezelfde naam heeft. Of aan een overzicht van uiteindelijke belanghebbenden dat met grote stelligheid een eigendomsstructuur beschrijft, maar op een klein, doorslaggevend punt onjuist is. Of aan een prachtig geformuleerde risico-onderbouwing die nergens naar verwijst wat je daadwerkelijk kunt terugvinden. Het ziet er allemaal uit als relevante informatie. Maar dat is het niet.
En het probleem beperkt zich niet tot chatbots voor consumenten, hoe geruststellend leveranciers daar ook over proberen te doen. Een veelgeciteerd onderzoek van Stanford testte gespecialiseerde tools voor juridisch onderzoek, die juist aan professionals worden verkocht met de belofte van betrouwbaarheid. Toch kwamen bij een aanzienlijk deel van de vragen onjuiste of misleidende antwoorden naar voren. Een model inzetten in een sector waar veel op het spel staat, schakelt hallucinaties niet uit. Het maakt vooral de gevolgen groter van doen alsof het probleem is opgelost.
Twee soorten AI, waarvan je er maar één kunt verantwoorden
De AI die nu zijn intrede doet in compliancewerk komt doorgaans in twee vormen. Het onderscheid daartussen is belangrijker dan welk nauwkeurigheidspercentage dan ook in een gelikte presentatie.
De eerste is de black box. Je voert een entiteit in en krijgt een oordeel terug, meestal een simpel getal. Risico: 82. Dat getal komt voort uit scoringsregels die opgesloten zitten in een model dat je niet kunt inzien, op basis van gegevens die voor je verborgen blijven en met een weging van factoren die de leverancier zelf vaak moeilijk kan uitleggen. Zolang de score klopt, lijkt het bijna tovenarij. Zodra de score ernaast zit, sta je met lege handen. Je kunt de fout niet herkennen en het resultaat niet betwisten, omdat je niet kunt reconstrueren hoe de tool tot die uitkomst kwam. Een conclusie die je niet kunt reconstrueren, kun je ook niet verantwoorden, tegenover je eigen commissie of wie dan ook.
Dan is er AI met bronverwijzingen. Die geeft je geen oordeel, maar een bevinding met het bijbehorende bewijs. Deze persoon staat in dit sanctieregister. Dit bedrijf wordt genoemd in dit ingediende document. Deze bewering komt uit dit nieuwsartikel, inclusief datum en een link naar de bron zelf. De AI blijft het zware werk doen. Ze verwerkt honderdduizenden documenten, verwijdert ruis, bepaalt welke vermeldingen bij welke entiteit horen en vat samen wat relevant is. Het cruciale verschil is dat elk aangedragen signaal verwijst naar materiaal dat een mens rechtstreeks kan openen en bestuderen.
Dat onderscheid is niet cosmetisch. Het wordt zichtbaar op het moment dat ertoe doet: wanneer de AI een fout maakt, want dat gebeurt bij beide soorten weleens. Bij een black box blijft de fout onzichtbaar, verborgen in een getal dat er net zo betrouwbaar uitziet als elk ander. Bij resultaten met bronverwijzingen is de fout simpelweg een link waarvan de inhoud niet overeenkomt met wat de tool beweerde. Een beoordelaar ziet dat binnen een minuut. Het ene systeem faalt ongemerkt. Bij het andere is de fout veilig op te vangen. In een functie die volledig draait om ontdekken wat anderen missen, is dat verschil geen detail. Het is de kern van het ontwerp.
‘Laat zien hoe je tot je antwoord komt’ wordt een wettelijke eis
Lange tijd hoorde ondoorzichtigheid er gewoon bij. Je draaide een model, vertrouwde op de uitkomst en vrijwel niemand vroeg hoe de conclusie tot stand was gekomen. Die tijd loopt snel ten einde.
De EU AI Act laat dat goed zien. De wet werd in augustus 2026 algemeen van toepassing en neemt als uitgangspunt dat transparantie niet onderhandelbaar is. Hoe groter de belangen, hoe zwaarder de eisen. Onder de categorie hoog risico vallen toepassingen zoals kredietbeoordeling. Daarvoor moet een systeem voldoende transparant zijn om gebruikers in staat te stellen de resultaten juist te interpreteren en passend te gebruiken. Voldoe je daar niet aan, dan kunnen de boetes oplopen tot tientallen miljoenen euro’s. Over het moment waarop elke specifieke bepaling van toepassing wordt, valt te discussiëren. Over de richting nauwelijks. Toezichthouders willen de onderbouwing zien.
Europa is bovendien maar één voorbeeld van een ontwikkeling die al vóór de huidige AI-golf begon. De GDPR geeft personen al het recht om niet te worden onderworpen aan volledig geautomatiseerde besluiten die ernstige gevolgen voor hen hebben, en om zinvolle informatie te vragen over de achterliggende logica. In de Verenigde Staten verplichten regels voor eerlijke kredietverlening kredietverstrekkers al tientallen jaren om voor elke afwijzing een specifieke reden te geven. ‘Het algoritme heeft beslist’ is nooit een aanvaardbare reden geweest. Hetzelfde principe geldt bij witwasbestrijding: de FATF-normen waarop vrijwel overal AML-regels zijn gebaseerd, draaien in wezen om dossiervorming en het kunnen onderbouwen van beslissingen. Een toezichthouder zoals FinCEN in de VS verwacht dat bedrijven risico’s identificeren, daarop handelen en documentatie bewaren die bij controle standhoudt.
Verschillende toezichthouders zijn dus vanuit verschillende vertrekpunten bij dezelfde verwachting uitgekomen. Heeft AI je geholpen een beslissing te nemen, dan moet je die beslissing kunnen uitleggen en het bewijs ervoor kunnen laten zien. Een black box voldoet daar niet aan. Een systeem met bronverwijzingen wel, zonder extra handelingen, omdat het bewijs er vanaf het begin al was.
Bij de audit loopt de black box vast
Laat de theorie even los en stel je een gewone dinsdag voor. Een toezichthouder, een interne auditor of een bezorgde LP stelt een eenvoudige vraag: waarom heb je dit specifieke bedrijf veertien maanden geleden goedgekeurd? Inmiddels is het opgedoken in een onderzoek dat het in een ongunstig daglicht stelt. Iemand wil weten wat je wist en wanneer je dat wist.
Als je tool een black box was, heb je een getal van ruim een jaar geleden en nauwelijks iets om dat mee te onderbouwen. Je kunt niet laten zien welke bronnen de tool heeft meegewogen, omdat je die nooit te zien kreeg. Je kunt niet aantonen dat je voldoende zorgvuldig onderzoek hebt gedaan, omdat de onderbouwing vanaf het begin buiten je zicht bleef. Je probeert een beslissing uit te leggen die je niet kunt reconstrueren. Dat is zo ongeveer de slechtste positie waarin je tijdens een toezichtonderzoek kunt zitten. En die positie heb je gekozen op de dag dat je de tool kocht, of je dat nu besefte of niet.
Had je tool bronverwijzingen, dan open je het dossier gewoon opnieuw. Dit waren de signalen op dat moment. Dit zijn de bronnen achter elk signaal. Deze informatie was toen openbaar en dit andere deel kwam pas later naar buiten, dus daarvan kon je redelijkerwijs nog niet op de hoogte zijn. De beslissing is verdedigbaar, omdat je het bewijs kunt tonen waarop ze was gebaseerd. Dat is het verschil tussen een beheersmaatregel die je daadwerkelijk kunt verantwoorden en een gok waarop je ruim een jaar geleden op een dinsdag toevallig vertrouwde.
Controleerbaarheid is geen functie die je op een gewone dag bijzonder waardeert. Ze blijft op de achtergrond en voegt weinig toe aan een demo. Maar op die ene slechte dag zou je willen dat je haar had. Dan is het veel te laat om haar alsnog in te bouwen.
Hoe betrouwbare AI voor compliance er daadwerkelijk uitziet
Je hoeft hiervoor geen enkele leverancier op zijn woord te geloven, ook ons niet. Voordat je iets ondertekent, kun je elke AI-tool die een rol speelt bij een gereguleerde beslissing aan een korte, praktische toets onderwerpen.
- Elke bevinding verwijst naar een primaire bron die je zelf kunt openen en lezen. Geen link, geen vertrouwen. Dit is het belangrijkste criterium; de rest vloeit eruit voort.
- De AI vat samen en classificeert, maar presenteert nooit iets als feit zonder naar een bron te kunnen verwijzen. Kan de AI het niet onderbouwen, dan hoort ze het niet te beweren.
- Je kunt controleren hoe entiteiten aan elkaar worden gekoppeld. Je ziet waarom de tool heeft besloten dat deze ‘John Smith’ dezelfde persoon is als die andere, in plaats van de match op goed vertrouwen te moeten aannemen.
- Elke beslissing wordt vastgelegd met een tijdstempel, zodat je het dossier maanden later kunt openen zonder een project voor gegevensherstel te moeten starten.
- Er blijft een mens betrokken. De tool moet risico’s aan het licht brengen en onderbouwen, en mag niet zelfstandig het eindoordeel vellen.
Geen van deze punten draait om krachtigere AI. Ze draaien om AI waarvan het werk te verantwoorden is. De sector heeft jarenlang modellen nagestreefd die steeds zekerder van zichzelf klinken. Wat een complianceteam werkelijk nodig heeft, is het tegenovergestelde: AI die bescheiden genoeg is om voor alles de herkomst te laten zien, zodat je het kunt controleren en zelf verantwoordelijkheid kunt nemen voor de beslissing.
Het eerlijke verhaal
Het zou gemakkelijk zijn om af te sluiten met de bewering dat AI met bronverwijzingen nooit fouten maakt. Maar natuurlijk gebeurt dat wel. Een bron kan verouderd raken. Een register kan een onjuiste vermelding bevatten. Een beoordelaar kan het voorgelegde bewijs verkeerd inschatten. Elk signaal aan een bron koppelen levert geen perfect systeem op. Elke leverancier die perfectie belooft, verkoopt je precies de overmoed waardoor die advocaten aan het begin van dit verhaal in de problemen kwamen.
De werkelijke claim is bescheidener en houdt bij toetsing stand. Verifieerbare AI maakt fouten die je kunt ontdekken. Black-box-AI maakt fouten die je niet kunt ontdekken. Als een onopgemerkte fout kan leiden tot ingrijpen door een toezichthouder, negatieve krantenkoppen of een verlies van zeven cijfers, is de mogelijkheid om die fout te ontdekken geen prettige extra functie meer. Het is de hele reden om dit te doen.
Veelgestelde vragen
Kun je AI dus vertrouwen bij compliance?
Uiteindelijk is vertrouwen simpelweg het verkeerde uitgangspunt. Je hoeft een tool die zijn werk volledig laat zien niet te vertrouwen, net zoals je een rekenmachine niet hoeft te vertrouwen als je het antwoord met de hand kunt narekenen. Je controleert het, dat kost enkele seconden, en je gaat verder. Dat is precies wat bronverwijzingen mogelijk maken en wat black-box-scores je ongemerkt ontnemen.
Beady is op dat principe gebouwd. Beady screent entiteiten aan de hand van meer dan 100.000 openbare bronnen, verwijdert ongeveer 95% van de ruis en koppelt elk signaal aan de oorspronkelijke bron. Zo kunnen je team en een toezichthouder elke bevinding uit sanctiescreening en screening op negatieve media onafhankelijk verifiëren. Beady vat samen en classificeert. Beady verzint niets.
Wil je zien hoe verifieerbare risico-informatie eruitziet voor je eigen portefeuille? Vraag een demo aan en we laten het je zien, inclusief de bronnen.
