Blog
Mens in de lus: waarom elke AI-automatisering een controlepunt nodig heeft
· 4 min leestijd
Een AI-agent leest binnenkomende aanvragen, vult het juiste formulier in en stelt meteen een concept-antwoord op. Een offerteaanvraag, een sollicitatie, een verzoek om een terugbetaling. Het scheelt in het begin merkbaar tijd. Een halfjaar later blijkt dat de agent bij een bepaald type aanvraag stelselmatig dezelfde inschatting maakte, en dat niemand het zag, want niemand keek er meer echt naar. De agent werkte, alleen niet zoals bedoeld.
Dat is het probleem met "het werkt": een AI-systeem dat soepel draait, bewijst niet dat het de juiste beslissing neemt. Zonder controlepunt merk je een systematische fout pas als de schade al is opgelopen. Met een controlepunt merk je het bij de eerste afwijking.
Bevestigen is geen toezicht
Veel bedrijven bouwen wel een menselijke stap in, maar die stap is vaak een knop met "akkoord" erop, terwijl de mens de onderliggende data nooit ziet. Dat heet automation bias: de neiging om AI-output te accepteren omdat het systeem meestal gelijk heeft. De EU AI Act noemt dit expliciet als risico waar toezichthouders op AI-systemen tegen bestand moeten zijn. Artikel 14 van de wet stelt dat mensen die toezicht houden op een AI-systeem in staat moeten zijn om de capaciteiten en beperkingen van het systeem te begrijpen, de werking te monitoren op onregelmatigheden, en om de output te negeren, terug te draaien of het systeem stil te zetten wanneer dat nodig is. Dat is een fundamenteel andere rol dan op een knop klikken die de AI je voorlegt, zoals te lezen valt in de officiële tekst van artikel 14.
Dat artikel geldt wettelijk verplicht voor AI-systemen die als hoogrisico zijn aangemerkt. Denk aan systemen die sollicitanten selecteren of beoordelen, die beslissingen nemen over promotie of ontslag, die de kredietwaardigheid van iemand inschatten, of die de prijs van een levens- of zorgverzekering bepalen. Dat staat met de exacte omschrijving in bijlage III van de AI Act. Herken je een van die toepassingen in je eigen AI-inzet, dan is een controlepunt geen vrijblijvend advies meer maar een wettelijke eis. Zet je AI in voor iets anders, bijvoorbeeld klantcommunicatie of interne procesautomatisering, dan geldt die verplichting niet automatisch, maar het onderliggende probleem is identiek: een systeem dat fouten maakt zonder dat iemand het merkt.
Een controlepunt is meer dan een goedkeurknop
Een controlepunt dat echt iets toevoegt, doet drie dingen die een goedkeurknop niet doet.
Ten eerste vraagt het om een gemeten uitkomst, niet om een bevestiging. AI-tools bevestigen gemakkelijk dat iets werkt zonder het daadwerkelijk getoetst te hebben: een agent die zegt dat een aanvraag "correct verwerkt" is, heeft dat zelf beoordeeld, met dezelfde aannames die tot de fout leidden als er een fout in zat. Vraag in plaats daarvan naar een concrete uitkomst die je zelf kunt narekenen: welk bedrag, welke datum, welke reden voor afwijzing, en toets die steekproefsgewijs tegen de brondata.
Ten tweede geeft het de controleur echte inzage, niet alleen de conclusie. Wie alleen "goedkeuren of afwijzen" ziet, kan niet meer beoordelen dan de agent zelf al deed. Wie de onderliggende gegevens ziet waarop de beslissing is gebaseerd, kan een afwijking herkennen die de agent zelf niet als afwijking herkent.
Ten derde krijgt een onomkeerbare actie altijd een aparte bevestigingsstap, los van de rest van het proces. Een geld terugstorten, een account verwijderen, een certificaat definitief afgeven: dat soort acties verdient een expliciete stop, juist omdat een misklik of een verkeerde inschatting daar niet meer te herstellen is. Dat principe geldt voor mensen net zo goed als voor AI-agents, maar bij een AI-agent die in seconden honderden gevallen afhandelt, is de schaal van een fout meteen groter.
Wie dit in de praktijk bouwt, merkt ook dat het beoordelen van het resultaat een aparte stap moet zijn, uitgevoerd door iemand anders dan degene die het systeem heeft opgezet. Een tweede blik vangt vaak wat de bouwer zelf niet meer ziet, precies omdat die inmiddels weet wat de bedoeling was en onbewust naar bevestiging zoekt in plaats van naar afwijking.
Waar je het controlepunt neerzet
Niet elke stap in een geautomatiseerd proces heeft evenveel toezicht nodig. Een agent die een e-mail categoriseert als "factuur" of "klacht" heeft weinig impact als hij zich vergist: iemand ziet het bij de volgende stap wel. Een agent die vervolgens zelfstandig een terugbetaling uitvoert of een sollicitant afwijst, heeft dat niet. De vraag die telt is niet "doet de AI dit goed genoeg", maar "wat gebeurt er als dit een keer fout gaat, en wie merkt dat dan". Zet het controlepunt daar waar het antwoord op die tweede vraag "niemand, tot het te laat is" luidt.
Wat betekent dit voor jouw bedrijf?
Vier stappen om mee te beginnen.
Breng eerst in kaart welke stappen in je AI-geautomatiseerde processen onomkeerbaar zijn of buiten je organisatie effect hebben, zoals een afwijzing, een betaling of een certificaat. Daar hoort een expliciet controlepunt, de rest kan lichter.
Geef de mens die controleert altijd de brondata te zien, niet alleen de conclusie van de AI. Een knop met "akkoord" zonder onderliggende informatie is geen controle, het is een handtekening onder andermans oordeel.
Vraag structureel om een meetbare uitkomst in plaats van een bevestiging, en toets die steekproefsgewijs. Zo ontdek je een systematische afwijking bij de tiende aanvraag, niet bij de duizendste.
Controleer of een van je AI-toepassingen onder de hoogrisico-categorieën van de AI Act valt, zoals werving, personeelsbeoordeling of kredietbeoordeling. Is dat zo, dan is een controlepunt volgens artikel 14 een verplichting, geen keuze.
Wil je weten waar in je eigen processen het controlepunt hoort te staan, of hoe je AI-agents inricht zodat mens en systeem elkaar versterken in plaats van dat de een blind op de ander vertrouwt? Neem contact met ons op, we denken graag mee vanuit wat we zelf hebben gebouwd.