AI is overal. Tools, dashboards, pilots, consultants die langskomen met een belofte. De verleiding is om te beginnen met de vraag die het makkelijkst voelt: wat kan dit voor ons doen?

Dat is niet de vraag die ertoe doet.

De vraag die ertoe doet, is moeilijker en minder comfortabel: wat doet dit met ons, met onze manier van leiden, sturen en samenwerken? Dat is geen technische vraag. Het is een bestuurdersvraag, en het is precies de vraag die de meeste organisaties overslaan, niet uit onwil, maar omdat de technische vraag sneller een antwoord geeft en minder blootlegt.

Ik zie dat patroon overal terugkomen. Een organisatie wil AI invoeren, en het eerste gesprek gaat over welke tool, welk platform, welke leverancier. Dat is een rationeel gesprek. Het voelt vooruitstrevend. Maar onder die rationaliteit schuilt vaak een ontwijking. Want zodra je begint bij de tool, hoef je drie vragen niet te beantwoorden die wezenlijk moeilijker zijn: waar staan wij eigenlijk voor als organisatie? Wat mag nooit door een algoritme worden bepaald? En wat betekent het voor mijn eigen rol als leider, als een deel van het denkwerk wordt overgenomen door iets dat ik niet volledig begrijp?

Die vragen verdwijnen niet omdat je ze overslaat. Ze wachten gewoon, en ze komen later harder terug, op het moment dat het al lastiger is om iets te corrigeren.

AI is geen neutrale toevoeging aan een organisatie. Het maakt bestaande spanningen scherper, of je dat wilt of niet.

Drie spanningsvelden zie ik daarbij telkens terugkomen. Het eerste is de spanning tussen efficiëntie en menselijke maat. Wil je vooral meer doen met minder mensen, of wil je tijd vrijmaken voor aandacht, oordeel en relatie? Beide antwoorden zijn legitiem. Het probleem is dat veel organisaties die vraag nooit expliciet beantwoorden, en dan ontdekken ze achteraf dat ze impliciet voor het eerste hebben gekozen, simpelweg omdat dat de makkelijkste route door een implementatietraject was.

Het tweede spanningsveld is datagedreven sturing versus professionele autonomie. Wordt het systeem leidend, of blijft het oordeel van de professional centraal? En wat zeg je tegen iemand die het oneens is met de uitkomst van het model? Dat is geen abstracte vraag. Het is een vraag die zich op een dinsdagmiddag voordoet, wanneer een ervaren medewerker zegt: dit klopt niet, ook al zegt het systeem van wel. Als je daar geen antwoord op hebt voorbereid, improviseer je onder druk, en improviseren onder druk levert zelden je beste antwoord.

Het derde spanningsveld is controle versus vertrouwen. Gebruik je AI om te helpen, of om te controleren? Dat onderscheid lijkt subtiel, maar het wordt door iedereen in de organisatie onmiddellijk aangevoeld. Mensen merken het verschil tussen een systeem dat hen ontlast en een systeem dat hen volgt, ook als de techniek identiek is.

Het is de moeite waard om hier even bij stil te staan, want het is precies dit spanningsveld dat het minst expliciet wordt besproken in bestuurskamers, en het meest expliciet wordt gevoeld op de werkvloer. Een dashboard dat productiviteit meet, kan in theorie bedoeld zijn om knelpunten te signaleren zodat mensen geholpen kunnen worden. In de praktijk wordt het bijna altijd ervaren als een instrument van controle, simpelweg omdat de context waarin het wordt geïntroduceerd, en de toon waarmee het wordt aangekondigd, die interpretatie onvermijdelijk maken. Techniek is in die zin nooit volledig neutraal. Ze erft de bedoeling van wie haar invoert, of die bedoeling nu expliciet is gemaakt of niet.

Wat mensen horen, hangt niet af van wat je zegt, maar van wat je eerste pilot doet.

Dit is misschien het belangrijkste punt van dit hele essay. Een organisatie kan een prachtige visietekst hebben over mensgerichte AI, met woorden als vertrouwen, ontwikkeling en ondersteuning. Maar als de eerste praktische toepassing van AI een monitoringsysteem is dat individuele prestaties volgt, dan negeert niemand de visietekst bewust. Ze geloven gewoon de praktijk meer dan het document. En de praktijk zegt: we vertrouwen het systeem meer dan jou.

Dat is geen kwestie van slechte intenties. Het is een kwestie van volgorde. De eerste toepassing van een nieuwe technologie zet de toon voor alles wat daarna komt, omdat mensen daaruit afleiden wat de organisatie werkelijk belangrijk vindt, los van wat er op papier staat.

Er is nog iets dat deze dynamiek versterkt, en het wordt zelden hardop benoemd. Mensen zijn buitengewoon goed in het detecteren van het verschil tussen verklaard beleid en feitelijk gedrag, vaak veel beter dan organisaties zelf beseffen. Een medewerker die ziet dat de eerste AI-toepassing draait om het volgen van individuele snelheid, trekt daar onmiddellijk een conclusie uit, ook al heeft niemand die conclusie expliciet uitgesproken. Die conclusie verspreidt zich vervolgens informeel, via de gangen en de koffieautomaat, sneller en geloofwaardiger dan welke interne communicatie dan ook. Tegen de tijd dat het management beseft welk verhaal er feitelijk de ronde doet, is het al verankerd.

Onderzoek naar menselijk toezicht op AI-systemen bevestigt waarom dit zo zwaar weegt. Wanneer mensen voortdurend worden blootgesteld aan systemen die beslissingen voorbereiden of nemen, ontstaat het risico van automation bias: de neiging om de uitkomst van het systeem klakkeloos te accepteren, ook wanneer eigen ervaring iets anders zegt. Dat risico wordt groter, niet kleiner, naarmate een organisatie minder expliciet heeft gemaakt wanneer tegenspraak gewenst is en wanneer niet. De Europese AI-verordening erkent dit probleem ook: voor AI-systemen met een hoog risico is menselijk toezicht een verplicht ontwerpcriterium, juist omdat toezicht zonder expliciete ruimte voor ingrijpen in de praktijk verwatert tot een formaliteit.

Dat is precies waarom dit eerste deel van deze reeks begint bij bedoeling, en niet bij techniek. Niet omdat techniek onbelangrijk is, maar omdat techniek die zonder bedoeling wordt ingevoerd, zelf de bedoeling gaat invullen. Een organisatie die niet expliciet kiest waar AI wel en niet voor mag worden gebruikt, eindigt met een organisatie die doet wat technisch kan, in plaats van wat ze werkelijk wil zijn.

Niemand kiest daar bewust voor. Het gebeurt simpelweg, tenzij iemand het tegenhoudt.

Wat vraagt dit nu, concreet, vandaag? Het begint bij iets kleins. Benoem één plek in je organisatie waar AI al meespeelt in een beslissing, ook als niemand het zo noemt. Stel daar de vraag bij: wat doet dit precies met onze manier van werken en spreken? Niet als technische audit, maar als eerlijk gesprek.

Op iets langere termijn helpt het om een vast ritme te ontwerpen, bijvoorbeeld elk kwartaal, waarin het managementteam en een aantal sleutelfiguren uit de organisatie reflecteren op wat AI feitelijk doet, niet wat het zou moeten doen volgens het plan. Dat ritme is waardevoller dan een eenmalige kick-off, omdat de impact van AI zich vaak pas na maanden laat zien, in patronen die je alleen opmerkt als je er bewust naar kijkt.

En wat je beter niet doet, is beginnen met een pilot die primair gericht is op controle, zonder eerst het gesprek over vertrouwen te hebben gevoerd. Dat is de volgorde die het meest schade aanricht, omdat ze een toon zet die later moeilijk terug te draaien is.

Dit essay is het eerste van vijf. De volgende delen gaan over bedoeling en grenzen concreet maken, over hoe AI macht en rollen herverdeelt, over governance en het leervermogen dat nodig is om dat te dragen, en uiteindelijk over een compact kompas waarin alles samenkomt. Maar het begint hier, bij de vraag die de meeste organisaties overslaan.

Zijn jullie vooral bezig met tools en use-cases? Of is er ook al een gesprek gaande over wie jullie willen zijn in een toekomst waarin AI overal aanwezig is?

Noten voor wie verder wil lezen:

1. Samir Passi, Agentic AI has a Human Oversight Problem (2025, SSRN). Over de structurele uitdagingen van menselijk toezicht naarmate AI-systemen autonomer worden.
2. Samir Passi & Mihaela Vorvoreanu, Overreliance on AI: Literature Review (2022, Microsoft Research). Over hoe automation bias ontstaat en hoe organisaties daar weerstand tegen kunnen opbouwen.
3. Argyri Panezi, Article 14 Human Oversight, in The EU Artificial Intelligence Act: A Commentary (2024). Juridische analyse van de verplichting tot menselijk toezicht in de Europese AI-verordening.
4. Amy C. Edmondson, The Fearless Organization (2018, Wiley). Over psychologische veiligheid als voorwaarde om tegenspraak tegen geautomatiseerde systemen daadwerkelijk mogelijk te maken.
5. Virginia Dignum, Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way (2019, Springer). Over het vertalen van waarden naar ontwerpkeuzes bij AI-implementatie, in plaats van waarden als achteraf-toevoeging.