Accountability

ALTAI deelt Accountability in twee domeinen die in 2026 nog steeds de leidraad vormen voor evaluatie en audit. Elk domein heeft eigen meetpunten en eigen tegenmaatregelen.

1. Auditability. De volledige levenscyclus van een AI-systeem moet openstaan voor evaluatie door interne en externe auditors. Dat vraagt om drie lagen tegelijk: technische documentatie (modelarchitectuur, trainingsproces, risicobeoordeling) onder Art. 11 + Annex IV van de EU AI Act, automatische logging (Art. 12) die ingebouwd moet zijn in het systeem zelf — handmatige export voldoet niet — en een wijzigingslogboek over modellen, prompts, datasets en guardrails (in deze context: technische beveiligings- en gedragsfilters in het AI-systeem zelf, zoals output-filters en validatie-regels; niet te verwarren met de zeven waarborgen van het BeeHaive-framework). De bewaartermijnen zijn streng: technische documentatie tien jaar (Art. 18), automatische logs minimaal zes maanden voor zowel aanbieder (provider) als gebruikende organisatie (deployer) onder Art. 19 en Art. 26 lid 6.

In 2026 is auditability bovendien drie niveaus diep:

• Interne audit: periodieke toetsing door een onafhankelijke interne audit-afdeling, vaak gekoppeld aan het kwaliteitsmanagementsysteem (QMS).
• Externe audit: beoordeling van de organisatie-brede AI-governance, vaak tegen ISO/IEC 42001 (de internationale standaard die een AI-managementsysteem specificeert) of opvolger-normen.
• Formele conformiteitsbeoordeling: verplichte toets vóór ingebruikname onder Art. 43, met twee routes: Annex VI (intern, door de aanbieder zelf) of Annex VII (extern, door een aangewezen keuringsinstantie).

ISO/IEC 42001 (gepubliceerd december 2023) is in 2026 vergezeld door twee nieuwe standaarden: ISO/IEC 42005 (2025) voor AI-impactassessments en ISO/IEC 42006 (2025), die strikte accreditatie-eisen vastlegt voor de auditors die ISO/IEC 42001 mogen certificeren. Zonder die accreditatie-laag was een ISO/IEC 42001-certificaat in de markt nauwelijks meer dan een claim die niemand onafhankelijk had gecontroleerd.

2. Risk Management. Onder dit domein vallen: identificeren, adresseren, documenteren, minimaliseren en rapporteren van negatieve impact; conflict of interest; rechtsherstel; en klokkenluiders-bescherming. EU AI Act Art. 9 verplicht een continu, iteratief risicobeheersysteem voor hoogrisico-AI dat de hele levenscyclus dekt: geen eenmalige beoordeling vooraf maar een proces dat blijft draaien. Art. 72 voegt post-market monitoring toe als gedocumenteerde verplichting, en Art. 73 maakt de incident-meldroute scherp:

• Standaard ernstig incident: de aanbieder meldt binnen 15 dagen na bewustwording aan de markttoezichthouder.
• Wijdverbreide inbreuk of een Art. 3(49)(b)-incident (verstoring kritieke infrastructuur): melding binnen 2 dagen.
• Overlijden: melding uiterlijk 10 dagen nadat de aanbieder of de gebruikende organisatie een causaal verband tussen het AI-systeem en het overlijden heeft vastgesteld of vermoedt.

De gebruikende organisatie moet de aanbieder onmiddellijk informeren; de Europese Commissie publiceerde in september 2025 een concept-richtsnoer (consultatie gesloten november 2025) dat 24 uur als praktijknorm voor deze keten hanteert. Het verschil met de standaardregel uit Robustness (GR_02: betrouwbaar gedrag onder alle omstandigheden) is dat hier de organisatie zelf een ernstig incident actief moet melden aan de markttoezichthouder binnen de bovengenoemde termijnen, niet alleen intern monitoren of corrigeren.

In 2026 is accountability voor hoogrisico-AI geen vrijwillige kwaliteitseis meer. Vijf wettelijke ankers vormen samen het kader, plus twee belangrijke ontwikkelingen rondom aansprakelijkheid.

Artikelen 16-22 EU AI Act, provider-verplichtingen: wie een hoogrisico-AI-systeem ontwikkelt en in eigen naam op de markt brengt of in gebruik neemt, draagt de zwaarste last:

• Een kwaliteitsmanagementsysteem (Art. 17) dat alle processen rond compliance, kwaliteitscontrole en post-market monitoring formaliseert.
• Technische documentatie volgens Annex IV (Art. 11), continu actueel gehouden.
• Automatische logging (Art. 12), ingebouwd in het systeem zelf; geen handmatige export achteraf.
• Conformiteitsbeoordeling vóór marktintroductie (Art. 43).
• CE-markering (het Europese keurmerk dat aantoont dat het systeem de wettelijke procedure heeft doorlopen, Art. 48).
• Registratie in de EU-database voor hoogrisico-AI (Art. 49).
• Een gedocumenteerd post-market monitoring-plan onder Art. 72.

Artikel 25 EU AI Act, dynamische rolwisseling: dit is het artikel waar veel organisaties zich op verkijken. Een deployer wordt zelf provider zodra hij het systeem substantieel modificeert, het beoogde doel verandert of standaard-guardrails uitschakelt. In de praktijk van 2026 vallen het aanpassen van systeem-prompts, het fine-tunen van een taalmodel op eigen data en het uitschakelen van standaard veiligheidsfilters vaak onder deze definitie. Gevolg: de provider-verplichtingen worden van toepassing, ook met terugwerkende kracht.

Artikelen 26-27 EU AI Act, deployer-verplichtingen: de gebruikende organisatie moet het systeem inzetten conform de instructies, menselijk toezicht aanwijzen, prestaties monitoren, logs minimaal zes maanden bewaren (Art. 26 lid 6), werknemers informeren vóór inzet, en — bij overheidsorganisaties en bepaalde private partijen — een FRIA uitvoeren vóór ingebruikname (Art. 27). De FRIA-deadline blijft 2 augustus 2026, ongewijzigd door het Digital Omnibus-akkoord.

Artikel 73 EU AI Act, incident-melding: bij een ernstig incident (overlijden, ernstige gezondheidsschade, verstoring kritieke infrastructuur, ernstige inbreuk op grondrechten) meldt de provider aan de nationale markttoezichthouder. De termijnen zijn scherp en wijken af van wat veel commentaren noemen; let hier op:

• 15 dagen voor de standaard ernstig-incident-melding.
• 2 dagen bij een wijdverbreide inbreuk of een Art. 3(49)(b)-incident (verstoring van kritieke infrastructuur).
• 10 dagen, gerekend vanaf het vaststellen of vermoeden van causaal verband, bij overlijden.

Een veelgemaakte misconceptie is dat overlijden binnen 2 dagen gemeld moet worden; de wet zegt 10 dagen, omdat de termijn pas begint bij vastgesteld of vermoed causaal verband. De deployer informeert de provider onmiddellijk.

Artikelen 85-86 EU AI Act, klachtrecht en recht op uitleg: betrokkenen kunnen een klacht indienen bij de markttoezichthouder (in Nederland: de Autoriteit Persoonsgegevens als coördinerend gezag), aanvullend op AVG Art. 77. Bij een hoogrisico-besluit met rechtsgevolgen heeft de betrokkene recht op een meningsvolle uitleg (Art. 86), aanvullend op AVG Art. 22 + Art. 15 lid 1 onder h. Het arrest van het Hof van Justitie van de EU (CJEU) in Dun & Bradstreet (C-203/22, februari 2025) maakte concreet wat “meningsvol” betekent; het Gerechtshof Amsterdam paste dit op 14 april 2026 toe (ECLI:NL:GHAMS:2026:961) met een dwangsom van € 4.000,- per dag bij niet-naleving.

Digital Omnibus-akkoord (7 mei 2026), deadline-verschuiving: een voorlopig politiek akkoord tussen de Raad van de Europese Unie (de lidstaten, vertegenwoordigd door hun vakministers) en het Europees Parlement, nog formeel te bekrachtigen. Het verschuift:

• Bijlage III hoogrisico-systemen (zelfstandig inzetbaar, zoals werving, krediet, justitie, onderwijs): van 2 augustus 2026 naar 2 december 2027.
• Bijlage I-systemen (AI als veiligheidscomponent in producten onder bestaande EU-veiligheidswetgeving): van 2 augustus 2027 naar 2 augustus 2028.
• Art. 50 transparantie (chatbot-labeling, watermerken, synthetische content): vervroegd naar 2 december 2026.
• FRIA Art. 27: ongewijzigd 2 augustus 2026.

De inhoudelijke eisen blijven gelijk. Voor lopende compliance-trajecten levert het meer voorbereidingstijd, geen lagere lat.

Productaansprakelijkheid en de AI Liability Directive: hier veranderde het landschap fundamenteel in 2025. De Product Liability Directive 2024/2853 (PLD) is gepubliceerd op 18 november 2024, omzettingstermijn 9 december 2026. AI-software, inclusief cloud- en SaaS-toepassingen, valt expliciet onder het productbegrip. De PLD introduceert drie mechanismen die de positie van benadeelden versterken: een informatieplicht (de rechter kan een aanbieder verplichten technische documentatie of logs vrij te geven), een presumptie van defect (bij weigering documentatie te verstrekken of bij ondoorzichtige complexiteit mag de rechter aannemen dat het systeem gebrekkig was), en een presumptie van causaal verband (als gebrek is vastgesteld en schade typisch gevolg is). De AI Liability Directive die hierop een aanvulling zou zijn, is op 11 februari 2025 door de Commissie ingetrokken; de officiële publicatie van die intrekking volgde in oktober 2025. Het ontstane aansprakelijkheidsvacuüm wordt opgevuld door de PLD plus nationaal civielrecht; in Nederland via art. 6:162 BW (onrechtmatige daad) en art. 6:77 BW (gebrekkige hulpzaken).

Het komt neer op vijf praktische dingen. Voor de meeste organisaties laat deze stapel zich samenvatten als:

1. Weet per AI-systeem wie provider is en wie deployer, en wat de overgangspunten onder Art. 25 zijn.
2. Leg vast wie eigenaar is van model, data, prompts en guardrails, met bevoegdheid om de inzet te pauzeren.
3. Bewaar logs en wijzigingsgeschiedenis volgens de Art. 12 / 18 / 19 / 26-termijnen.
4. Oefen de incident-meldroute vóór het eerste incident, niet erna.
5. Bouw klachtkanaal en uitleg-template in vóór livegang, niet na het eerste verzoek.

De Acht valkuilen, Drie cases en Tooling-secties hieronder werken deze punten uit met concrete valkuilen, voorbeelden en gereedschappen; niet één-op-één per punt, maar verweven.

Accountability-programma’s falen op herkenbare manieren. Onder elke valkuil staat de tegenmaatregel.

1. Fictief eigenaarschap: een “AI-owner” op het organogram zonder bevoegdheid, budget of een ingang naar het bestuur. De UWV-zaak waarin tussen 2019 en 2023 IP-adressen en surfgedrag van uitkeringsgerechtigden heimelijk werden verzameld — eind 2023 moesten 703 beslissingen worden teruggedraaid — is hier het klassieke voorbeeld: er was geen natuurlijk persoon met bevoegdheid om de inzet te pauzeren tot het te laat was. Tegenmaatregel: wijs per AI-systeem één persoon aan met naam en bevoegdheid, en leg vast dat die persoon binnen een uur bereikbaar is bij incident.

2. Registratie-paradox: organisaties registreren tientallen “algoritmes” in het algoritmeregister om transparantie te tonen, maar kwalificeren dezelfde systemen niet als AI-systeem onder de AI Act om hoogrisico-verplichtingen te ontduiken. De AP signaleerde dit expliciet in de zesde Rapportage AI & Algoritmes Nederland (RAN-6, maart 2026), met vier van negen indicatoren in het rood. Tegenmaatregel: koppel elke registratie aan een gedocumenteerde AI-Act-classificatie; lokale en nationale registratie consistent houden.

3. Log-retentie-tekort: het systeem logt wel, maar logs worden na dertig dagen overschreven omdat AVG-dataminimalisatie zo wordt geïnterpreteerd. Onder Art. 19 EU AI Act en Art. 26 lid 6 moeten logs voor hoogrisico-systemen minimaal zes maanden bewaard worden; technische documentatie tien jaar (Art. 18). Tegenmaatregel: gelaagde log-architectuur waarbij persoonsgegevens na operationele noodzaak (typisch dertig dagen) worden geanonimiseerd, en functionele metadata gedurende de wettelijke termijn bewaard blijft. Geen conflict tussen AVG en AI Act, wel een ontwerpkwestie.

4. Audit-trail zonder validatie: een audit-trail bestaat, maar niemand kijkt er periodiek naar. Bij OxRec werd in 2018 een formule voor gedetineerden en niet-gedetineerden verwisseld; bij ongeveer 20% van de adviezen volgde een onjuiste risico-inschatting. De fout bleef zeven jaar onopgemerkt omdat er geen systematische monitoring van model-output en geen audit-trail van configuratiewijzigingen was. Medewerkers kregen bovendien te horen dat hun eigen oordeel “net zo betrouwbaar als een muntje opgooien” was, waarmee menselijk toezicht als correctiemechanisme werd uitgeschakeld. Tegenmaatregel: behandel logging zonder periodieke validatie als incompleet; bouw een gesloten loop in waarin output-drift, configuratie-wijzigingen en menselijke overrides per kwartaal worden bekeken.

5. AVG-rolwisseling van verwerker naar verwerkingsverantwoordelijke bij LLM-API-gebruik: een organisatie gebruikt een externe taalmodel-API met een nette verwerkersovereenkomst (de leverancier is verwerker, de organisatie verwerkingsverantwoordelijke). Zodra de leverancier de ingevoerde prompts gebruikt om zijn eigen basismodel verder te trainen — wat bij standaard- en consumentenversies vaak gebeurt — treedt de leverancier buiten de instructies van de afnemer en wordt zelfstandig verwerkingsverantwoordelijke, met eigen handhavingsrisico’s voor de afnemer in de keten. Tegenmaatregel: verwerkersovereenkomst die expliciet hertraining op klantprompts verbiedt; periodieke audit op het feitelijk gebruik, niet alleen op de papieren afspraak.

6. Conformiteitsbeoordeling gelijkstellen aan ISO/IEC 42001-certificering: een organisatie haalt ISO/IEC 42001 en gaat ervan uit dat de wettelijke conformiteitsbeoordeling onder Art. 43 daarmee gedekt is. Dat is onjuist. ISO/IEC 42001 ondersteunt AI Act-conformiteit (vooral op risicobeheer, datagovernance, technische documentatie en menselijk toezicht), maar dekt niet de aparte AI-Act-eisen: de CE-markering (het Europese keurmerk dat aantoont dat het systeem de wettelijke procedure heeft doorlopen), de registratie in de EU-database voor hoogrisico-AI, een Fundamental Rights Impact Assessment (FRIA), en de formele conformiteitsbeoordeling zelf. Tegenmaatregel: gebruik ISO/IEC 42001 als basis, maar voer de wettelijke conformiteitsroute afzonderlijk uit. Twee routes onder Art. 43:

• Annex VI (intern): de aanbieder verifieert zelf via zijn kwaliteitsmanagementsysteem en technische documentatie dat het systeem voldoet. Geen externe partij betrokken. Dit is voor de meeste Bijlage III-toepassingen (kredietscoring, werving, onderwijs, rechtshandhaving, essentiële diensten) de verplichte route.
• Annex VII (extern): toetsing door een aangewezen keuringsinstantie, zoals TÜV-SÜD, DEKRA of BSI. Alleen verplicht voor biometrische identificatie, of wanneer de aanbieder de Europese harmonisatienormen niet toepast en de conformiteit anders moet aantonen.

7. Mens-in-de-loop die enkel afvinkt: een HITL is formeel aanwezig, maar de mens beoordeelt vijftig zaken per dag in een doorklik-tempo zonder de AI-uitkomst inhoudelijk te toetsen. Bij OxRec, UWV-tracking en Amsterdam Smart Check kwam dit patroon terug. Onder AVG Art. 22 is dit juridisch problematisch en sinds het CJEU-arrest Dun & Bradstreet (februari 2025) ook procedureel: de uitleg aan betrokkene moet beschrijven welke menselijke weging op de AI-uitkomst is toegepast. Tegenmaatregel: schriftelijke menselijke onderbouwing per nadelige beschikking, met expliciete weging van de signalen die het systeem leverde; zie Human Agency (GR_01: mens beslist, ook als AI versnelt).

8. Provider-deployer-contractgaten: wie beheert de logs, wie doet post-market monitoring, wie meldt het incident binnen 15 dagen; als dit niet contractueel is belegd komt het bij elk incident opnieuw ter discussie, terwijl de wettelijke termijn al loopt. Tegenmaatregel: expliciete contractuele allocatie tussen provider en deployer, inclusief de Art. 25-overgangsregels voor de situatie waarin de gebruikende organisatie wettelijk de positie van aanbieder erft (en daarmee de zwaarste compliance-last, ook met terugwerkende kracht). Drie typische triggers waardoor dit gebeurt: het systeem substantieel wijzigen, het beoogde doel veranderen, of standaard-veiligheidsfilters uitschakelen.

Hoe ziet accountability eruit wanneer de wet aan de praktijk wordt afgemeten? Drie sectorperspectieven uit Nederland in 2025 en 2026, één per gezichtspunt.

Zorg: AI-Act-overlap met MDR. AI-systemen in de zorg vallen vaak onder twee regimes tegelijk. Diagnostische AI als veiligheidscomponent van een medisch hulpmiddel valt onder de Medical Device Regulation (MDR, EU 2017/745) én onder Bijlage I van de EU AI Act. De accountability-keten loopt dan parallel: de Inspectie Gezondheidszorg en Jeugd (IGJ) houdt toezicht op MDR-veiligheid en klinische werking; de Autoriteit Persoonsgegevens als coördinerend AI Act-toezichthouder ziet toe op de AI-specifieke risico’s, samen met sectorale rol-aanwijzing die in NL nog niet limitatief is vastgelegd. Voor providers betekent dit: één kwaliteitsmanagementsysteem dat beide regimes dekt, één technische documentatie, één conformiteitsbeoordeling, en niet twee parallelle compliance-trajecten. Wie dit goed inricht houdt accountability werkbaar; wie het omzeilt loopt het risico dat beide toezichthouders bij een incident afzonderlijk handelen.

Landelijke overheid: OxRec bij Reclassering Nederland. De Inspectie Justitie en Veiligheid publiceerde op 12 februari 2026 een onderzoek naar het OxRec-instrument (Oxford Risk of Recidivism Tool), dat sinds 2018 door drie reclasseringsorganisaties werd gebruikt om de kans op recidive in te schatten. Bij de invoering bleek de berekeningsformule voor gedetineerden en niet-gedetineerden verwisseld; ongeveer 20% van de adviezen had daardoor een onjuiste risico-inschatting. De fout bleef zeven jaar onopgemerkt. De Inspectie vatte het kort samen: “De reclassering stuurt niet voldoende op het gebruik en onderhoud van de algoritmes.” Drie accountability-falen lopen samen:

1. Geen systematische monitoring van model-output, waardoor drift en configuratiefouten onzichtbaar bleven.
2. Geen audit-trail van wijzigingen aan de modelconfiguratie, waardoor reconstructie achteraf alleen via interviews mogelijk was.
3. Medewerkers ontvingen de boodschap dat hun eigen oordeel “net zo betrouwbaar als een muntje opgooien” was, waardoor de HITL als correctiemechanisme niet functioneerde.

De drie reclasseringsorganisaties hebben het gebruik gepauzeerd; de Inspectie eist een rapportage-interval van zes maanden. De brede les: een AI-systeem met juridische impact moet in een gesloten controlecyclus draaien (meten, signaleren, bijstellen en weer meten, niet alleen meten en rapporteren). Anders groeien onopgemerkte fouten ongezien door tot ze niet meer terug te draaien zijn.

Private partij: het Gerechtshof Amsterdam tegen X (voorheen Twitter). Op 14 april 2026 deed het Gerechtshof Amsterdam uitspraak (ECLI:NL:GHAMS:2026:961) in een zaak waarin een Nederlandse gebruiker inzage eiste in de zogenaamde Guano Notes: de interne account-logs die X bijhoudt over de werking van contentmoderatie, spamfilter, advertentiesysteem en accountveiligheid voor elk account afzonderlijk. De aanleiding was een NSFW-label (Not Safe For Work: een label dat platforms aan inhoud koppelen die zij ongeschikt achten voor algemeen publiek, bijvoorbeeld seksueel-explicit of gewelddadig) op een post over chatberichten-scannen, waarna het account van de gebruiker vijf dagen niet meer in zoekresultaten verscheen, zonder kennisgeving. X stelde in hoger beroep dat de logs bedrijfsgeheim waren en dat verstrekking de moderatiesystemen kwetsbaar zou maken voor reconstructie door eraan terug te werken (reverse engineering). Het hof woog per categorie het inzagebelang tegen het bedrijfsgeheim-belang en oordeelde dat X vrijwel alle logs moest verstrekken; alleen namen van medewerkers en exacte seconden mochten worden weggelakt. De dwangsom van € 4.000 per dag werd in stand gelaten, zonder maximum, want “gelet op de aard en omvang van de onderneming van X, kan niet worden geoordeeld dat de opgelegde dwangsom of het ontbreken van een maximum disproportioneel is”. Het hof citeerde het arrest van het Hof van Justitie van de EU (CJEU) in Dun & Bradstreet (C-203/22, februari 2025) expliciet als interpretatieve standaard voor de afweging. Voor private partijen die met algoritmische beslissingen werken (moderatie, scoring, ranking, feed-curation: het algoritmisch samenstellen en ordenen van de berichten die een gebruiker in zijn tijdlijn te zien krijgt) is de boodschap helder: bedrijfsgeheim is geen vrijbrief, en de inzage-plicht op interne logs is reëel met financiële prikkel.

De bredere context volgens AP RAN-6, de zesde Rapportage AI & Algoritmes Nederland van de Autoriteit Persoonsgegevens (maart 2026): de AI-Impactbarometer staat op rood (vier van negen indicatoren), de voorbereiding op de AI-verordening loopt achter, en de toezichthouder kondigt strengere handhaving aan op de registratie-paradox (het verschijnsel dat organisaties hun systemen wel registreren in het algoritmeregister om transparantie te tonen, maar dezelfde systemen niet als AI-systeem onder de AI Act kwalificeren om hoogrisico-verplichtingen te ontduiken; uitgewerkt in Acht valkuilen, punt 2). Wie nu zijn accountability-huiswerk doet, voorkomt dat hij in 2027 onderwerp wordt van het volgende halfjaar-rapport van de AP.

Een gereedschappen-pakket voor accountability is in 2026 een gelaagde verzameling, van technische logging tot juridische documentatie. Vier lagen vormen samen een werkende oplossing:

1. Model- en prompt-versiebeheer: vastleggen welke modelversie, prompt en dataset wanneer in gebruik was.
2. EU-soevereine AI-governance-platformen: overkoepelende compliance-tooling die rollen, controles en audit-pakketten bundelt.
3. AIMS-tooling, conformiteit en standaarden: ondersteuning bij ISO/IEC 42001-implementatie en certificering.
4. Tracing, audit-trails en incident-management: logging in productie plus de melding-keten bij incidenten.

Voor veel organisaties begint dit klein: een spreadsheet met per AI-systeem de eigenaar, classificatie en wijzigingsgeschiedenis dekt de eerste twee lagen, mits hij daadwerkelijk wordt onderhouden.

1. Model- en prompt-versiebeheer. Het wijzigingslogboek staat of valt met geautomatiseerde koppeling aan de model-registry: een centrale catalogus waarin elke versie van een AI-model staat geregistreerd met datum, configuratie en wie het heeft getraind. MLflow Model Registry en DVC (Data Version Control) zijn de industriestandaard voor het onveranderlijk vastleggen van modelversies en dataset-versies. Langfuse en Helicone loggen elke prompt, output en guardrail-interventie (momenten waarop een ingebouwd beveiligingsfilter heeft ingegrepen, bijvoorbeeld door een onveilig antwoord te blokkeren of door te schakelen naar een terugvalpad) voor audit-doeleinden, met retentie- (de bewaartermijn) en role-based-access (toegangsrechten per gebruikersrol)-instellingen. Promptfoo en Weights & Biases Artifacts sluiten aan op de Evaluation Loop (BB_07: meten, leren en verbeteren in een gesloten cyclus) voor reproduceerbare regressie-tests.

2. EU-soevereine AI-governance-platformen. In reactie op specifieke EU AI Act-eisen ontstaat in 2026 een markt voor Europese compliance-tooling. Modulos AI (Zwitsers-Europees) koppelt direct op de concept-EU-normen (prEN 18283/18284/18286 onder CEN/CENELEC JTC 21) en genereert audit-pakketten voor aangewezen keuringsinstanties. Trail.ai automatiseert compliance-workflows tussen ontwikkelaars en compliance-officers met ingebouwde RACI-toewijzers (RACI: Responsible, Accountable, Consulted, Informed; een matrix die per actie vastlegt wie het doet, wie eindverantwoordelijk is, wie wordt geraadpleegd en wie wordt geïnformeerd). Holistic AI en Credo AI bieden continue model-monitoring en risicobeheer-dashboards. Voor grote organisaties komen daarnaast OneTrust AI Governance, ServiceNow AI Risk en MS Purview AI Hub in beeld, met integratie naar bestaande GRC-omgevingen (GRC: Governance, Risk and Compliance; overkoepelende beheers- en controle-tooling die bedrijfsregels, audit-trails en compliance-rapportage centraliseert).

3. AIMS-tooling, conformiteit en standaarden. Een AI Management System (AIMS) is een gestructureerd beheerssysteem voor AI-risico’s en -processen volgens de internationale norm ISO/IEC 42001, vergelijkbaar met ISO 27001 voor informatiebeveiliging. Specifieke AIMS-suites helpen bij het opstellen van een Statement of Applicability (de verklaring waarin de organisatie per beheersmaatregel uit de norm vastlegt of die wordt toegepast en hoe; verplicht onderdeel van een ISO/IEC 42001-certificering), gap-analyses tegen EU AI Act-eisen, en het voorbereiden van de jaarlijkse audit. De Nederlandse certificeringsmarkt is in 2025-2026 op gang gekomen, met drie spelers actief:

• SGS Netherlands haalde ANAB-accreditatie (de erkenning door de ANSI National Accreditation Board, de Amerikaanse accreditatie-instantie die certificeerders bevoegd verklaart om ISO-normen te toetsen) in april 2025 en certificeerde in oktober 2025 het eerste Europese AI-contractplatform.
• BSI heeft UKAS-accreditatie (de erkenning door de United Kingdom Accreditation Service, de Britse tegenhanger van ANAB) plus RvA-accreditatie (de erkenning door de Nederlandse Raad voor Accreditatie, die certificeerders erkent voor de Nederlandse markt).
• KPMG International is in december 2025 de eerste Big Four met een ISO/IEC 42001-certificaat.

Voor de algoritmeregister-koppeling werken NL-overheden met open-source bibliotheken zoals die van de Open State Foundation om interne AI-inventarisatie automatisch met algoritmes.overheid.nl te synchroniseren.

4. Tracing, audit-trails en incident-management. Voor de logging-laag zelf vormt OpenTelemetry in 2026 de open standaard; Grafana en Datadog leveren de dashboards bovenop. Datadog Audit Trail koppelt alle aanroepen aan één trace-id zodat een audit-vraag (“wat is er gebeurd op 12 maart om 14:23?”) in één query beantwoord kan worden. Firetail en Logdy leveren AI Act-specifieke logging-configuraties met ingebouwde retentie-regels (regels voor hoe lang welke logs bewaard blijven en wanneer ze worden geanonimiseerd of verwijderd). Voor incident-management gebruiken NL-organisaties vaak hun bestaande GRC- of ticket-tooling (ServiceNow, Jira) aangevuld met een dunne AI-incident-laag die Art. 73-termijnen bewaakt.

De Weerts/CRM-les uit Fairness geldt ook hier (kwantitatieve meting is een signaal, geen bewijs; het normatieve oordeel ligt bij een mens met bevoegdheid). Een alert dat een retentie-, drift- of incident-drempel overschreden wordt, triggert geen automatische actie maar een melding aan een gekwalificeerde verantwoordelijke die de normatieve weging uitvoert en schriftelijk vastlegt. Tooling levert het signaal; de mens met bevoegdheid voert de beslissing uit en draagt de verantwoordelijkheid.

Accountability is geen geïsoleerd thema. Het landt in concrete bouwstenen en raakt direct aan drie andere waarborgen.

Bouwstenen die Accountability operationaliseren staan in de sectie hieronder uitgewerkt:

• Knowledge (BB_01: kennis als grondstof voor verantwoorde AI-toepassingen) raakt aan de bron-administratie: per bron-document zou een eigenaar, een datum van laatste herijking en een doelbinding moeten worden vastgelegd. Zonder die eigenaar-laag blijft het bewaken van verouderde brondocumenten, FRIA-actualisatie en datalek-respons giswerk.
• Client Blueprint (BB_02: ontwerp vertrekt vanuit de waarde-stroom van de klant) maakt zichtbaar waar in het proces beschermde belangen geraakt worden, en koppelt verantwoordelijkheden per processtap. De RACI-matrix per AI-systeem hoort hier.
• Dynamic Context (BB_03: actuele context op het juiste moment) is waar retrieval-audit-trails landen: welke chunks zijn opgehaald, op basis van welke embedding-versie (numerieke representatie van een tekstfragment die het zoeksysteem gebruikt om relevantie te bepalen), met welke score? Zonder dit logboek is incident-analyse (“waarom gaf het systeem dít antwoord?”) giswerk, en is AVG-doelbinding (de eis dat persoonsgegevens alleen worden gebruikt voor het specifieke, vooraf vastgestelde doel) niet aantoonbaar. Anonimisering van persoonsgegevens vóór log-opslag is hier de operationele invulling.
• Evaluation Loop (BB_07: meten, leren en verbeteren in een gesloten cyclus) is waar de OxRec-les uit In de praktijk concreet wordt: logging zonder periodieke validatie is onvoldoende. De minimale loop bestaat per kwartaal uit drie controles tegelijk: drift-monitoring (zien of de modeluitvoer afwijkt van de eerder gemeten norm), configuratie-audit (controleren welke wijzigingen aan model, prompt of parameters zijn doorgevoerd en wie ze heeft gemaakt) en menselijke overrides.

Andere waarborgen raken aan accountability op verschillende plekken:

• Human Agency (GR_01: mens beslist, ook als AI versnelt) draagt de menselijke onderbouwing per nadelige beschikking. Een accountability-keten zonder een mens met bevoegdheid om de inzet te pauzeren is een papieren keten; de OxRec-zaak bij Reclassering Nederland (uitgewerkt in In de praktijk) is hier de waarschuwing.
• Transparency (GR_04: uitlegbaarheid van besluit en systeem) is de gerichte buitenkant van accountability. Het recht op een meningsvolle uitleg bij hoogrisico-besluiten (Art. 86 EU AI Act) en het arrest van het Hof van Justitie van de EU in Dun & Bradstreet (C-203/22, februari 2025) maken die uitleg-plicht concreet; het arrest van het Gerechtshof Amsterdam (ECLI:NL:GHAMS:2026:961, X/Guano Notes-zaak, uitgewerkt in In de praktijk) toont hoe een Nederlandse rechter die plicht via dwangsom afdwingt.
• Fairness (GR_05: gelijke behandeling, geen systematische benadeling) leunt op accountability om effect te hebben: een fairness-meting zonder eigenaar met bevoegdheid blijft een dashboard zonder gevolg. De FRIA-deadline (2 augustus 2026) is ongewijzigd door het Digital Omnibus-akkoord (politiek akkoord 7 mei 2026 dat enkele AI Act-deadlines verschuift) en hoort op de accountability-kalender.