AI systems should empower human beings, allowing them to make informed decisions and fostering their fundamental rights. At the same time, proper oversight mechanisms need to be ensured, which can be achieved through human-in-the-loop, human-on-the-loop, and human-in-command approaches.— EU High-Level Expert Group on AI, Ethics Guidelines for Trustworthy AI (2019)
EU-term: Human agency and oversight
Veel teams ontdekken pas dat hun AI-toezicht niet werkt wanneer een gebruiker zich nergens meer over verbaast, een professional begint te twijfelen of haar oordeel nog telt, of een burger een afwijzing krijgt die niemand kan uitleggen. Menselijk toezicht is wat je dán wenst dat je eerder had ingericht: niet als knop op het scherm, maar als rolverdeling waar mensen op konden bouwen.
Menselijke autonomie en toezicht betekent dat de mens beslist, ook wanneer AI de zaak versnelt. Het is geen enkele eigenschap maar een verzameling: heeft de gebruiker grip op de eigen situatie, kan de professional ingrijpen, blijft de organisatie verantwoordelijk, en houdt de samenleving zicht op wat er gebeurt? Het verschil tussen toezicht en toezicht-op-papier zit in de bruikbaarheid van die rolverdeling onder druk.
In de EU Trustworthy AI-traditie staat Human agency and oversight als eerste pijler. De HLEG-richtlijnen van 2019 leverden de definitie. ALTAI (2020) splitste die op in drie sub-domeinen: fundamentele rechten, menselijke autonomie en menselijk toezicht via HITL, HOTL en HIC. De EU AI Act (2024-2026) maakte menselijk toezicht voor hoogrisico-systemen wettelijk afdwingbaar via Art. 14, en bouwde daarnaast in Art. 4 een verplichting tot AI-geletterdheid voor alle risico-categorieën.
Organisaties die hier scherp op sturen verschillen van organisaties die het niet doen op één punt: bij hen kan iedereen die in de keten een beslissing neemt benoemen welke ruimte zij heeft om af te wijken, en wat er gebeurt als zij dat doet. Niet als kans, maar als gewoon onderdeel van het werk.
ALTAI deelt Human agency and oversight in drie sub-domeinen die in 2026 nog steeds de leidraad vormen voor evaluatie en audit. Elk domein heeft eigen meetpunten en eigen tegenmaatregelen.
1. Fundamentele rechten. Voordat een AI-systeem in productie gaat, hoort een grondrechten-impact-beoordeling te zijn uitgevoerd: welke rechten (non-discriminatie, privacy, rechtsbescherming, vrijheid van meningsuiting) raakt het systeem, en welke mitigaties zijn ingebouwd? Voor hoogrisico-systemen verplicht EU AI Act Art. 27 een Fundamental Rights Impact Assessment (FRIA): een gestructureerde beoordeling die overheidsorganisaties en bepaalde private partijen vóór ingebruikname moeten uitvoeren. De FRIA is geen eenmalige check vooraf maar moet bij wezenlijke wijzigingen worden herzien.
2. Menselijke autonomie. De gebruiker (intern of extern) moet zelfbeschikking behouden: weten dat zij met een AI-systeem werkt, begrijpen wat het systeem wel en niet doet, en kunnen kiezen om er anders mee om te gaan. AP-onderzoek onder 1.480 Nederlanders (april 2026) liet zien hoe ver dat van de praktijk af staat: bijna 1 op de 5 heeft een nadelig automatisch besluit ondervonden zonder uitleg, en bijna 2 op de 5 weet niet dat zij bij een nadelig automatisch besluit recht hebben op een menselijke beoordeling (AVG Art. 22). Autonomie zonder begrip is een formaliteit.
3. Menselijk toezicht. Hier komen HITL, HOTL en HIC samen. EU AI Act Art. 14 vraagt geen pre-decisional review (een verplichte menselijke beoordeling vóór elke AI-uitkomst effect heeft) bij elke AI-output; wel dat de mogelijkheid om in te grijpen aanwezig én bruikbaar is. De vier praktische deelvereisten uit Art. 14(4):
De keuze tussen HITL, HOTL en HIC hangt af van de risicocategorie en de hersteltijd: voor onomkeerbare beslissingen biedt HITL (mens beslist per geval) het hardste vangnet, voor real-time toepassingen geeft HOTL (mens monitort en grijpt in bij afwijking) een werkbaar evenwicht tussen snelheid en controle.
In 2026 is menselijk toezicht voor hoogrisico-AI-systemen geen vrijwillige kwaliteitseis meer. Vier wettelijke ankers vormen samen het kader.
Artikel 14 EU AI Act, menselijk toezicht: vereist passend menselijk toezicht over de hele levensduur van een hoogrisico-systeem. Belangrijk: Art. 14 vereist niet dat elke AI-output vóór effectuering door een mens wordt beoordeeld. Het vereist dat de mogelijkheid om in te grijpen technisch aanwezig is, dat de toezichthouder bevoegd én capabel is om die mogelijkheid te gebruiken, en dat automation bias actief wordt herkend en tegengewerkt.
Artikel 4 EU AI Act, AI-geletterdheid: van kracht sinds 2 februari 2025. Aanbieders én gebruikers van AI-systemen moeten zorgen voor “voldoende mate van AI-geletterdheid” bij personeel dat ermee werkt, rekening houdend met technische kennis, ervaring, opleiding en context. De Autoriteit Persoonsgegevens (AP) verwacht een iteratief model (identificeren, doel stellen, uitvoeren, evalueren), niet een eenmalig certificaat.
Artikel 50 EU AI Act, transparantie naar gebruiker: bij interactie met een AI-systeem moet die als zodanig herkenbaar zijn, in het bijzonder voor chatbots, deepfakes en biometrische categorisatie. Voor hoogrisico-systemen voegt Art. 86 het recht op uitleg toe: wie een nadelig automatisch besluit ondergaat, kan vragen hoe en waarom het systeem tot die conclusie kwam.
AVG Art. 22 + Art. 15(1)(h): het recht om niet onderworpen te worden aan louter geautomatiseerde besluitvorming met rechtsgevolgen, en het recht op uitleg over de logica van de gegevensverwerking. Het CJEU-arrest CK v Magistrat der Stadt Wien (C-203/22, 27 februari 2025) gaf de operationele invulling: de verwerkingsverantwoordelijke moet “in beknopte, transparante, begrijpelijke en gemakkelijk toegankelijke vorm” beschrijven welke procedure en beginselen zijn toegepast, welke persoonsgegevens zijn gebruikt en hoe een wijziging in die gegevens tot een ander resultaat had geleid. Wel of niet vereist:
Wat geldt voor laag-risico-systemen? Art. 14 (menselijk toezicht) en Art. 26 (verplichtingen voor de organisatie die het systeem inzet) gelden specifiek voor hoogrisico. Voor beperkt-risico (chatbots, deepfakes) geldt vooral Art. 50 (transparantieplicht). Voor minimaal-risico is Art. 4 (AI-geletterdheid) verplicht; verdere maatregelen zijn vrijwillig, wel sterk aanbevolen maar niet wettelijk afdwingbaar.
Het komt neer op vijf praktische dingen. Voor de meeste organisaties laat deze stapel zich samenvatten als:
De valkuilen en tooling-secties hieronder werken punten 1, 3 en 4 expliciet uit. Punt 2 (per-processtap-eigenaarschap) landt vooral in Client Blueprint (BB_02); punt 5 (uitlegplicht) raakt direct aan Transparency (GR_04) en komt terug in de lokale-overheid-case verderop.
Programma’s voor menselijk toezicht falen op herkenbare manieren. Onder elke valkuil staat de tegenmaatregel.
1. Toezicht-theater: een HITL-procedure die in de praktijk een rubber-stamp is (formeel afvinken zonder eigen oordeel). De drie mechanismen die hier samenkomen zijn beslissings-vermoeidheid (bij hoog volume daalt de aandacht), de uitleg-paradox (een vlot AI-verhaal vervangt het eigen redeneren) en verantwoordelijkheids-diffusie (de mens absorbeert de aansprakelijkheid zonder echte ruimte tot ingrijpen). Tegenmaatregel: vraag schriftelijke onderbouwing bij zowel akkoord als override, en meet hoe vaak akkoord met een hapklare standaardzin wordt onderbouwd.
2. Over-reliance door passief gebruik: gebruikers kopiëren AI-output zonder kritische beoordeling. Lee et al. (Scientific Reports, maart 2026) toonden bij N=539 dat passief AI-gebruik de self-efficacy ondermijnt met sterke correlatie r = −0,45, terwijl actieve samenwerking (mens eerst, AI voor verfijning) de psychologische binding én vergelijkbare kwaliteit behoudt. Tegenmaatregel: ontwerp de werkstroom als centaur (mens eerst, AI als verfijning of toetsing), niet als delegatie.
3. Eénmalige AI-disclosure: een algemene mededeling bij het inloggen die niemand meer leest. Tegenmaatregel: maak per interactie zichtbaar dat een AI-systeem in het spel is, met de operationele beperkingen van dát moment (lage zekerheid, ontbrekende context, onbekend bronmateriaal).
4. Override die niemand durft te gebruiken: de knop bestaat, maar afwijken vraagt twee handtekeningen, een schriftelijke motivering en een afwachtende blik van de leidinggevende. Tegenmaatregel: maak override even eenvoudig als akkoord. Asymmetrie in moeite verschuift het gedrag naar de gemakkelijkste optie.
5. Alarm-vermoeidheid: zoveel meldingen dat alles na verloop van tijd wordt weggeklikt. Klinisch onderzoek (JMIR Human Factors, mei 2026) bevestigt het patroon: te veel valse positieven leidt tot alarm fatigue (vermoeidheid door overdaad aan meldingen) en vertrouwensverlies in het systeem. Tegenmaatregel: kalibreer waarschuwingen op modelzekerheid, niet op detectie-volume. Bij lage zekerheid: stuur naar handmatige beoordeling en toon geen aanbeveling.
6. Opt-out die standaard aan staat: gebruikers moeten actief uitschakelen wat hun gegevens of beslissingen door AI laat verwerken, terwijl AVG Art. 22 voor besluiten met rechtsgevolgen het omgekeerde vraagt. Tegenmaatregel: bouw opt-in als standaard voor besluiten met rechtsgevolgen, en maak de opt-out-route net zo zichtbaar als de opt-in-route.
7. Deskilling-cyclus: de mens verleert wat het systeem overneemt. De ACCEPT-trial (Lancet Gastroenterology, 2025) liet zien dat artsen die drie maanden met AI hadden gewerkt daarná, zónder AI, een lagere adenoom-detectiegraad hadden dan de controlegroep. Het kort-cyclische RCT-bewijs uit 2026 trekt het breder: zelfs 10–15 minuten AI-gebruik is genoeg om onafhankelijke prestaties te verslechteren. Tegenmaatregel: bouw bewuste oefening zonder AI-ondersteuning in als beleid, niet als bijzaak.
8. Eenmalige FRIA: een grondrechten-impact-beoordeling uitgevoerd vóór ingebruikname en daarna nooit meer aangeraakt. Tegenmaatregel: hertoets bij elke wezenlijke wijziging (nieuwe dataset, ander model, andere doelgroep, andere context) en koppel de herziening aan de release-procedure.
Hoe ziet menselijk toezicht eruit wanneer de wet aan de praktijk wordt afgemeten? Drie cases uit Nederland in 2025 en 2026, één per bestuurslaag.
Zorg: deskilling in de spreekkamer. De Europese ACCEPT-trial (Lancet Gastroenterology, augustus 2025) onderzocht 1.443 colonoscopieën van artsen die drie maanden met AI-ondersteuning hadden gewerkt. In de daaropvolgende ronde zónder AI bleek hun adenoom-detectiegraad gedaald naar 22,4% (controlegroep: 28,4%). De Lee et al.-studie (Scientific Reports, maart 2026) gaf dit patroon een psychologische verklaring: passief AI-gebruik ondermijnt de self-efficacy van de professional, en die schade blijft ook na terugkeer naar handmatig werk. Implicatie: menselijk toezicht in de zorg is niet alleen een organisatorische maar ook een vakinhoudelijke kwestie. Wie zijn vaardigheid niet onderhoudt, kan het AI-advies op den duur niet meer wegen.
Landelijke overheid: precedent bij de reclassering. Op 12 februari 2026 publiceerde de Inspectie Justitie en Veiligheid (IJenV, de sectorinspectie voor het justitiedomein) een rapport over risicovol algoritmegebruik bij de reclassering. De parameters “buurtscore” en “hoogte inkomen” in het OxRec-risicotaxatie-algoritme bleken mogelijk discriminatoir, en het menselijk toezicht bleek ontoereikend om die uitkomsten te corrigeren. De reclassering heeft OxRec gepauzeerd en is overgestapt op gestructureerd professioneel oordeel met vier-ogen-principe (twee bevoegden moeten onafhankelijk akkoord geven). Drie lessen tegelijk: formeel HITL is niet hetzelfde als betekenisvol HITL; een sectorinspectie kan tot directe productie-stop leiden; en een werkend terugvalpatroon (professioneel oordeel plus dubbele toets) is concrete invulling van Art. 14.
Lokale overheid: burger zonder uitleg. AP-onderzoek (april 2026, N=1.480) liet zien dat bijna 1 op de 5 Nederlanders een nadelig automatisch besluit heeft ondervonden zonder uitleg, en bijna 2 op de 5 niet weet dat zij bij een nadelig automatisch besluit recht hebben op een menselijke beoordeling (AVG Art. 22). De bredere context staat in de 6e Rapportage AI & Algoritmes Nederland van de AP (maart 2026): de AI Impact Barometer verslechtert, vier van negen governance-graadmeters staan op rood. Voor lokale overheden betekent dit: een uitlegplicht aan de balie of in de standaardbrief is geen optie meer. Wie een aanvraag afwijst op basis van een algoritme moet — sinds CJEU Dun & Bradstreet (februari 2025) — kunnen beschrijven welke procedure en beginselen zijn toegepast, welke gegevens zijn gebruikt en hoe een wijziging tot een ander resultaat had geleid. In begrijpelijke taal.
De volwassen 2026-toolstack voor menselijk toezicht kent vier lagen. Voor de meeste organisaties begint dat klein: een spreadsheet plus afspraken is meestal genoeg voor de eerste twee lagen, mits het daadwerkelijk wordt onderhouden.
Disclosure en transparantie in de gebruikersinterface. Markeer per interactie (niet alleen bij eerste inlog) dat een AI-systeem actief is. Concrete patronen: een herkenbaar UI-element bij elke AI-gegenereerde uitvoer (label, kleurmarkering, korte tooltip), een confidence-indicatie (vertrouwens-niveau van het model, in lekenwoorden of een drie-trapsbalk), en de regel “bij lage zekerheid: geen aanbeveling tonen, doorsturen naar handmatige beoordeling”. Voor publieke diensten zijn de Code Goed Digitaal Openbaar Bestuur en het algoritmeregister (het openbare register van de Rijksoverheid voor overheids-AI) het wettelijke kompas; voor zorg- en financiële instellingen gelden vergelijkbare sectorrichtlijnen.
Override-flows met logging. Redirect (de richting van de beslissing wijzigen) hoort naast terminate (het systeem stoppen) als optie beschikbaar te zijn; een binaire knoppenset produceert binaire oversight. Bij elke beslissing wordt zowel het AI-advies als de menselijke afweging gelogd, met een audit-trail die voldoet aan AI Act Art. 26 lid 6 (zes maanden retentie minimaal). Tooling: een eigen beslissingenlog kan, maar vaker volstaat een uitbreiding van het bestaande logging-platform. OpenTelemetry (open-source standaard voor logging en tracing), Datadog Audit Trail (het audit-log-onderdeel van het Datadog-observability-platform) of de ELK-stack (Elasticsearch + Logstash + Kibana) zijn de gangbare keuzes voor wie al een observability-stack heeft. Voor dual-control (verplichte tweede onafhankelijke goedkeuring) op hoog-impact besluiten volstaat vaak een lichte workflow-tool zonder eigen bouw: het ingebouwde tweede-akkoord-pad in ServiceNow (enterprise IT service management-platform) of Jira (Atlassian’s projecttool en issue-tracker).
Beslissings-ondersteuning, geen beslissings-overname. Onderzoek naar de gebruikerservaring (UX, user experience) in 2026 convergeert op één patroon: toon AI-aanbevelingen niet als startpunt van het scherm. De evidence-first-volgorde (eerst de feiten, dan de logica, dan pas de conclusie) dwingt de gebruiker tot eigen oordeel voordat zij de AI-suggestie ziet. Concrete maatregelen die werken: verplichte specificatie van welke elementen onafhankelijk zijn geverifieerd (niet één globale “akkoord”-knop), en de mogelijkheid om de aanbeveling pas op te vragen ná het eigen voorlopige oordeel. Voor klinische context laat JMIR Human Factors (mei 2026) zien dat optionele verdieping beter werkt dan verplichte uitleg, en dat XAI (uitlegbare AI) het meest helpt wanneer zij aansluit op het mentale model van de gebruiker, niet wanneer zij dat model wil vervangen.
AI-geletterdheid als programma, niet als kennismakingsmoment. AI Act Art. 4 is sinds 2 februari 2025 van kracht en geldt voor alle risico-categorieën. De AP-handreiking (2025-2026) hanteert een iteratief vier-stappen-model: identificeer rollen en taken die AI raken, stel doelen per rol, voer een passend programma uit, evalueer en herijk. Het EC-OECD AILit-framework (definitieve versie volgt later in 2026) levert vier inhoudelijke domeinen waaronder Human-in-the-loop expliciet. Praktisch: kies rol-afhankelijke leerpaden boven generieke e-learnings, koppel competentie-meting aan periodieke hertoetsing, en behandel AI-geletterdheid als productie-randvoorwaarde. Zonder bestaat menselijk toezicht alleen op papier.
Menselijk toezicht is geen geïsoleerd thema. Het landt in concrete bouwstenen en raakt direct aan drie andere waarborgen.
Bouwstenen die Human Agency operationaliseren staan in de sectie hieronder uitgewerkt:
Andere waarborgen raken aan menselijk toezicht op verschillende plekken:
Transparency (GR_04: uitlegbaarheid van besluit en systeem) is de voorwaarde voor betekenisvol toezicht. Zonder begrijpelijke uitleg kan een toezichthouder niet beoordelen of de AI-conclusie verantwoord is. CJEU Dun & Bradstreet (2025) bindt beide waarborgen juridisch: het recht op uitleg is een afgeleide van het recht op menselijke tussenkomst.
Accountability (GR_07: aantoonbare verantwoording in keten en organisatie) draagt het organisatorische framework. De grens loopt zo:
RACI staat voor responsible, accountable, consulted, informed: per actie vastleggen wie het doet, wie eindverantwoordelijk is, wie wordt geraadpleegd, wie wordt geïnformeerd. Beide waarborgen zijn nodig: een werkend HITL zonder duidelijke verantwoordelijkheid wordt theater zodra een incident plaatsvindt en niemand meer weet wie eindverantwoordelijk is.
Well-being (GR_06: welzijn van gebruiker en samenleving) raakt aan deskilling en FOBO, de Fear of Becoming Obsolete: de stille drijfveer achter zowel AI-vermijding (uit angst voor verdere afhankelijkheid) als AI-overgave (uit angst om achter te lopen). Menselijk toezicht dat geen ruimte laat voor leren, ondermijnt het welzijn dat het beoogt te beschermen.
Strategisch: stel per AI-toepassing vast welke beslissingen aan de mens blijven, wie eindverantwoordelijk is en welke proportionaliteit past bij de risico-categorie onder de EU AI Act. Wijs voor elke hoogrisico-toepassing een eigenaar in de directie of het risicocomité aan. Wie niet kan benoemen welke beslissing de mens nog neemt, heeft het toezicht nog niet ontworpen.
Tactisch: inventariseer per AI-systeem de drie ALTAI-sub-domeinen (fundamentele rechten, menselijke autonomie, menselijk toezicht) en breng tekorten in kaart. Werk per processtap een operating agreement uit: wie beslist, wie kijkt mee, wie wordt geïnformeerd, wat is het terugvalpatroon bij onzekerheid?
Operationeel: voor laag-risico-systemen (chatbot, interne assistent) is de baseline een duidelijke AI-disclosure in de gebruikersinterface, een makkelijk te vinden mogelijkheid om af te wijken en periodieke meting van het afwijkings-percentage. Voor hoog-risico-systemen (besluitvorming, kritieke infrastructuur) komt daar bij: evidence-first weergave (geen conclusie als startpunt), schriftelijke onderbouwing bij zowel akkoord als override, en een geoefend terugvalpatroon met vier-ogen-principe. In beide gevallen geldt: koppel elke meetuitslag aan een geregistreerde actie.
Een waarborg is geen abstract principe; hij landt in concrete bouwstenen. Hieronder de stenen waarin deze waarborg het sterkste tot uitdrukking komt.
Menselijke autonomie begint bij begrip: weten wat het AI-systeem wel en niet kan, waar de jagged frontier loopt, hoe decision intelligence de probleem-formulering zwaarder maakt dan de uitvoering. Zonder die kennislaag is "toezicht" een formaliteit. Hier landen ook operating agreements per AI-proces en het herkennen van FOBO als stille drijfveer achter vermijdings- of overgave-gedrag.
Per processtap in de waarde-stroom moet expliciet vastliggen wie beslist, waar de mens in de lus zit en wat "klaar" is. Dit voorkomt dat menselijk toezicht weglekt in een keten van AI-tussenstappen. De operating agreements die hier ontstaan, geven de organisatorische verankering die EU AI Act Art. 14 vraagt zonder dat het in alleen techniek wordt vertaald.
Instructie-ontwerp bepaalt of het systeem de mens uitnodigt tot een eigen oordeel of juist een eindconclusie levert die alleen nog geaccepteerd hoeft te worden. Een system prompt die expliciet maakt welke beslissingen aan de mens zijn, samen met few-shot-voorbeelden voor grensgevallen, is een directe maatregel tegen over-reliance.
Menselijk toezicht is geen statisch ontwerp maar een meetbare eigenschap in productie: hoe vaak wordt afgeweken van het AI-advies, hoe lang duurt het beoordelen, hoe ontwikkelt de over-reliance zich, treedt er deskilling op? Zonder deze metingen valt niet aan te tonen dat het toezicht werkt, alleen dat het is ingericht.
Top 3 gecureerde bronnen die de basis vormen voor Human Agency.
Toonaangevend Nederlands toezichtsrapport over AI & Algoritmes (5 maart 2026), met expliciete graadmeters voor menselijk toezicht. Levert de urgentie-framing voor Human Agency in 2026 én de AI-Impactbarometer als doorlopend kompas. Concrete oproep aan het kabinet om uitvoeringswet vast te stellen en toezichthouders aan te wijzen.
Eerste peer-reviewed empirisch bewijs dat de gekozen samenwerkingsvorm tussen mens en AI bepaalt of menselijke autonomie behouden blijft. Onderbouwt het centaur-model (mens-AI als duo, niet als vervanging) als ontwerpprincipe boven volledige delegatie. Kwantitatief vertaalbaar naar operating agreements: hoe wordt het systeem in de praktijk gebruikt?
Het sterkste Nederlandse praktijkvoorbeeld in 2026 van wat er gebeurt wanneer menselijk toezicht op AI-beslissingen tekortschiet. Toont aan dat formeel HITL (de reclasseringswerker keek mee) niet hetzelfde is als betekenisvol HITL. De terugval op gestructureerd professioneel oordeel met vier-ogen-principe is een bruikbaar referentie-patroon voor andere uitvoeringsorganisaties.