AI wordt vaak verkocht als slimme assistent. Iets dat helpt, ondersteunt, tijd bespaart. In werkelijkheid doet het iets fundamentelers: het herverdeelt macht, verantwoordelijkheid en vertrouwen.

Wie de techniek ontwerpt, ontwerpt ook de relaties in de organisatie.

Dat is geen overdrijving. Het is een directe consequentie van hoe beslissingsprocessen werken zodra een model daarin een rol speelt. Drie verschuivingen zie ik daarbij steeds terugkomen, en geen van de drie wordt vaak genoeg hardop benoemd voordat de implementatie al in volle gang is.

De eerste verschuiving gaat over wie beslissingen voorbereidt. Waar een professional vroeger zelf een dossier opende, een patroon herkende en een inschatting maakte, levert nu vaak eerst een model die inschatting. De vraag die daarmee ontstaat, is niet technisch maar relationeel: vertrouw je het model, of vertrouw je de professional? Moet iemand die afwijkt van het modeladvies dat motiveren, en aan wie? Wordt tegenspraak gezien als lastig gedrag, of als precies het vakmanschap waarvoor je die professional ooit hebt aangenomen?

Die vraag wordt zelden expliciet beantwoord voordat het systeem live gaat. Het antwoord ontstaat dan vanzelf, in de praktijk, en meestal in het voordeel van het model, simpelweg omdat het model sneller, consistenter en op het eerste gezicht objectiever overkomt dan een menselijke afweging. Dat is geen technische waarheid. Het is een sociale dynamiek die zich voltrekt zodra niemand bewust een ander antwoord heeft georganiseerd.

Modellen reproduceren de geschiedenis van jullie keuzes. Wat impliciet was, wordt expliciet en schaalbaar.

De tweede verschuiving gaat over aanspreekbaarheid. Stel dat iemand onterecht wordt benadeeld door een AI-advies. Wie legt dat dan uit? Wie biedt excuses aan? Wie heeft de bevoegdheid om het te corrigeren? Zonder helderheid hierover ontstaat een niemandsland, een zin die ik in bijna elke organisatie tegenkom die hier niet over heeft nagedacht: het systeem doet dit nu eenmaal. Die zin is op het eerste gezicht onschuldig. In werkelijkheid is het een vorm van verantwoordelijkheid afschuiven naar iets dat niet kan worden aangesproken, omdat het geen gezicht en geen stem heeft.

Dat is precies waarom deze vraag vooraf beantwoord moet worden, niet achteraf wanneer er al schade is. Wie eindverantwoordelijk is, moet bekend zijn voordat het eerste incident zich voordoet, niet pas daarna, wanneer de druk om snel een zondebok te vinden de zorgvuldigheid in de weg gaat staan.

De derde verschuiving gaat over wie de norm bepaalt. Een model wordt getraind op historische data, en die data draagt de geschiedenis van jullie keuzes en jullie vooroordelen mee, ook de vooroordelen die nooit als zodanig zijn benoemd. Wat voorheen impliciet was, misschien zelfs onbewust, wordt door een model expliciet gemaakt en op schaal toegepast. Dat kan een kans zijn: het maakt patronen zichtbaar die je eigenlijk niet meer wilt. Het kan ook een risico zijn: het bevestigt en versterkt een norm die je eigenlijk wilde bijstellen, zonder dat iemand het in de gaten heeft, omdat de norm nu verstopt zit in een algoritme in plaats van in een expliciete beleidsregel.

Onder deze drie verschuivingen ligt een psychologische laag die net zo belangrijk is als de structurele kant. Leidinggevenden kunnen een gevoel van statusverlies of controleverlies ervaren wanneer patronen die voorheen verborgen bleven, plotseling zichtbaar worden in data. Professionals ervaren AI soms als een vorm van controle, of als een devaluatie van het vak waarin ze jaren hebben geïnvesteerd. En een bestuur kan verleid worden om vooral op dashboards te sturen, omdat dat overzichtelijker voelt dan een complex gesprek, met als gevolg dat de dialoog binnen de organisatie verarmt precies op het moment dat ze het hardst nodig is.

Tegenspraak normaliseren is geen vriendelijk advies. Het is een ontwerpopdracht.

Wat vraagt dit nu van het management, concreet? Drie dingen, denk ik, die elkaar versterken en die geen van alle op zichzelf voldoende zijn.

Allereerst: maak de rolverdeling expliciet. Wie blijft eindverantwoordelijk voor welke besluiten? Waar is menselijke overruling niet alleen toegestaan, maar verplicht? Leg dat vast in mandaten en processen, maar ook in het verhaal dat je vertelt, naar binnen en naar buiten. Een mandaat dat alleen in een beleidsdocument staat, zonder dat het ooit hardop is uitgesproken in een teamoverleg, bestaat in de praktijk niet.

Ten tweede: normaliseer tegenspraak, actief en herhaaldelijk. Het helpt om letterlijk uit te spreken dat het professioneel gedrag is om een AI-uitkomst te bevragen en, waar nodig, te overrulen. En het helpt nog meer om voorbeelden te delen van momenten waarin dat daadwerkelijk is gebeurd, met naam en resultaat, zodat het geen abstracte uitspraak blijft maar een herkenbaar patroon wordt.

Ten derde: bespreek de onderstroom hardop. Benoem de angst en de spanning die deze verschuivingen veroorzaken, in plaats van te doen alsof ze er niet zijn. Combineer die eerlijkheid met een serieus ontwikkelpad, zodat mensen niet alleen hun ongemak gehoord voelen, maar ook een richting krijgen voor hoe hun rol zich ontwikkelt naast een systeem dat een deel van hun vroegere taken overneemt.

Er is nog een mogelijkheid die het vermelden waard is, en die verder gaat dan risicobeheersing. Gebruik AI als spiegel. Zet het in om patronen zichtbaar te maken die je eigenlijk niet meer wilt: systematische benadeling van een specifieke groep, sturing op snelheid ten koste van zorgvuldigheid, beslissingen die consequent in dezelfde richting uitvallen zonder duidelijke reden. Op die manier wordt AI een instrument voor volwassenwording van de organisatie, niet alleen een instrument voor efficiëntie.

Concreet kun je vandaag al beginnen met een overrule-log: een eenvoudige registratie van momenten waarop professionals afwijken van het modeladvies, en wat daarvan het resultaat was. Op iets langere termijn kun je een vast tegenspraak-ritueel ontwerpen, bijvoorbeeld een kwartaalreview waarin een klein team bewust kritisch naar de uitkomsten van het systeem kijkt. En wat je vooral niet moet doen, is elke afwijking van het AI-advies automatisch behandelen als een fout. Dat ontmoedigt precies het gedrag dat je nodig hebt om het systeem scherp en eerlijk te houden.

Versterkt jullie gebruik van AI vooral controle en hiërarchie? Of versterkt het vertrouwen en het professionele gesprek?

Het antwoord op die vraag is zelden volledig eenduidig. Maar het stellen ervan, herhaaldelijk en hardop, is precies het werk dat dit derde deel van deze reeks bedoelt.

Noten voor wie verder wil lezen:

1. Wanda Orlikowski, Sociomaterial Practices (2007, Organization Studies). Over hoe technologie en organisatorische relaties elkaar voortdurend vormgeven, in plaats van dat techniek een neutraal instrument is dat los van de organisatie bestaat.
2. Amy C. Edmondson, The Fearless Organization (2018, Wiley). Over psychologische veiligheid als voorwaarde om tegenspraak tegen geautomatiseerde uitkomsten daadwerkelijk te normaliseren.
3. Mary Uhl-Bien & Russ Marion, Complexity Leadership Theory (2009, Organizational Dynamics). Over hoe leiderschap zich moet aanpassen wanneer besluitvorming verdeeld raakt tussen mensen en systemen.
4. Sidney Dekker, Drift into Failure (2011, Ashgate). Over hoe organisaties geleidelijk afdrijven van hun eigen normen wanneer verantwoordelijkheid diffuus wordt verdeeld tussen mens en systeem.
5. Cathy O’Neil, Weapons of Math Destruction (2016, Crown Publishing). Over hoe modellen historische vooroordelen reproduceren en versterken op schaal, vaak zonder dat de oorspronkelijke bouwers dat als hun bedoeling hadden.