De meeste AI-trajecten lopen niet vast op techniek. Ze lopen vast op draagkracht.

Dat is een opmerkelijke vaststelling, omdat de meeste implementatieplannen het grootste deel van hun aandacht aan techniek besteden. Welk model, welke data, welke integratie. Ondertussen ontbreekt vaak het antwoord op een eenvoudigere vraag: kan onze organisatie dragen wat we technisch al kunnen?

De bottleneck is zelden technologie. Het is governance en leervermogen.

Dat onderscheid lijkt misschien semantisch, maar het heeft praktische consequenties. Een organisatie die technisch klaar is voor AI maar organisatorisch niet, schaalt op naar problemen die zich pas later openbaren, op het moment dat ze al verweven zijn in dagelijkse processen en daardoor veel moeilijker te herstellen zijn dan wanneer ze vooraf waren voorzien.

Heldere governance begint bij iets wat eenvoudig klinkt maar in de praktijk vaak ontbreekt: bestuurlijk eigenaarschap. Niet de constructie waarin IT het regelt, met af en toe een update aan de directie, maar een lid van het managementteam of bestuur dat AI expliciet koppelt aan strategie, waarden en risico’s, en die koppeling ook actief onderhoudt. Zonder die figuur verdwijnt AI in de techniekkolom van de organisatie, en daarmee verdwijnt ook de verbinding met de bredere vragen die in de vorige delen van deze reeks aan de orde kwamen.

Daarnaast is er behoefte aan iets wat ik ethiek en grondrechten noem, al kan de naam per organisatie verschillen. Het gaat om een persoon, of een klein gremium, met het feitelijke mandaat om nee te zeggen wanneer iets technisch kan maar moreel niet past. Dat mandaat moet niet alleen op papier bestaan. Het moet zich al eens hebben bewezen in een situatie waarin het ergens toe deed, anders is het een formaliteit die niemand serieus neemt op het moment dat het spannend wordt.

En er is behoefte aan proceseigenaarschap per use-case: niet alleen een projectleider die de implementatie begeleidt en daarna vertrekt, maar één eigenaar binnen de lijnorganisatie die ook na de livegang verantwoordelijk blijft voor hoe het systeem zich gedraagt in de praktijk.

Risico’s en impact serieus nemen betekent meer dan een vinkje zetten bij een juridische checklist.

Een impact-assessment moet drie vragen beantwoorden, niet één. De juridische vraag, mag het, is de meest voor de hand liggende en wordt meestal als enige gesteld. Maar er is ook een organisatorische vraag, kunnen we het dragen, en een morele vraag, willen we dit eigenlijk. Een systeem dat juridisch volledig in orde is, kan nog steeds een organisatie aantasten die het niet kan dragen, of een waarde schenden die de organisatie zegt te koesteren.

Het helpt om expliciet onderscheid te maken tussen twee zones. De speel- en leerzone is de ruimte waarin geëxperimenteerd wordt, met beperkte risico’s en ruimte om te leren van fouten zonder grote gevolgen. De kritieke productiezone is de ruimte waarin normen, logging, een audittrail en formeel toezicht en escalatiepaden noodzakelijk zijn, omdat de gevolgen van een fout daar wel degelijk groot kunnen zijn. Het gevaarlijkste scenario dat ik in de praktijk tegenkom, is een project dat begint in de leerzone, met alle vrijheid die daarbij past, en ongemerkt verschuift naar de kritieke zone zonder dat de bijbehorende waarborgen meeverhuizen. Dat gebeurt zelden in één bewuste stap. Het gebeurt geleidelijk, via kleine uitbreidingen die elk afzonderlijk redelijk lijken.

Leerarchitectuur is iets anders dan losse trainingen, en het verschil doet ertoe.

Een training leert mensen een tool gebruiken. Een leerarchitectuur helpt een organisatie volwassen worden in haar omgang met een nieuwe vorm van macht en verantwoordelijkheid. Dat is een ander soort werk, en het vraagt om andere instrumenten.

Het eerste instrument is leiderschapsontwikkeling met een AI-bril: sturen in een omgeving die plotseling veel data-rijker is dan voorheen, de onderstroom blijven lezen ook als dashboards suggereren dat alles onder controle is, en de menselijke maat bewaken juist op de momenten dat het systeem suggereert dat die maat overbodig is geworden.

Het tweede instrument is een vast ritme van reflectie. Kwartaalgesprekken met management en sleutelfiguren uit de organisatie, waarin niet de techniek centraal staat maar de praktijk: wat gebeurt er feitelijk, welke bijwerkingen zien we, welke dilemma’s komen terug? Die gesprekken moeten niet alleen plaatsvinden, ze moeten ook daadwerkelijk leiden tot bijstelling van processen en kaders. Een reflectiegesprek dat nooit tot een aanpassing leidt, wordt na een paar keer een rituele formaliteit die niemand meer serieus neemt.

Het derde instrument is het leren van incidenten. Fouten en bijna-fouten rond AI moeten leerdata worden voor het systeem als geheel, niet aanleiding voor een schuldvraag die zich richt op één persoon. Dat onderscheid is cruceel, omdat een cultuur van schuldvragen ervoor zorgt dat incidenten worden verborgen in plaats van gedeeld, en juist de incidenten die het meest leren opleveren, zijn vaak de incidenten die het meest verleidelijk zijn om te verzwijgen.

Wat kun je hier vandaag al mee doen? Label al je bestaande AI-initiatieven, zonder uitzondering, als leerzone of kritieke zone, en regel het bijpassende toezicht voordat je verder gaat. Op iets langere termijn helpt het om een AI review board neer te zetten, met een echt mandaat en een vast ritme, niet als symbolisch gremium maar als plek waar daadwerkelijk besluiten worden genomen. En wat je vooral niet moet doen, is opschalen voordat rollen, logging en tegenspraak zijn geborgd. Die volgorde omdraaien is de meest voorkomende fout die ik in de praktijk tegenkom, en ook de fout die het duurst is om later te herstellen.

Wat is bij jullie nu het meest waar: kunnen we al meer dan we durven, of doen we al meer dan we kunnen dragen?

Beide antwoorden vragen om een andere vervolgstap. Het eerste vraagt om moed. Het tweede vraagt om een pauze.

Noten voor wie verder wil lezen:

1. Erik Hollnagel, Safety-II: The Past and Future of Safety Management (2014, Ashgate). Over hoe systemen veerkracht opbouwen door structuur en leervermogen, in plaats van te vertrouwen op individuele waakzaamheid.
2. Sidney Dekker, Drift into Failure (2011, Ashgate). Over hoe organisaties geleidelijk, via kleine stappen, afdrijven van hun eigen normen en waarborgen.
3. Chris Argyris & Donald Schön, Organizational Learning: A Theory of Action Perspective (1978, Addison-Wesley). Over het verschil tussen wat organisaties zeggen te doen en wat ze feitelijk doen, en hoe leerarchitectuur dat gat kan dichten.
4. Virginia Dignum, Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way (2019, Springer). Over governance-structuren die verantwoordelijkheid voor AI-systemen daadwerkelijk beleggen in plaats van diffuus laten.
5. Donella Meadows, Thinking in Systems (2008, Chelsea Green). Over hoe kleine structurele interventies, zoals het onderscheid tussen leerzone en kritieke zone, grotere effecten hebben dan grote, ongerichte veranderingen.