Wat moet ik met AI? Het is dé standaardvraag die Esther van Egerschot en Marco Florijn krijgen van raden van commissarissen, wethouders, Kamerleden of raden van bestuur. Ze beantwoorden die vraag nu in het boek Toezicht houden in het AI-tijdperk.
Florijn is ondernemer in impactinnovatie en medeoprichter van Impact Platform. Van Egerschot is buitengewoon hoogleraar AI governance & ethics, adviseur en auditor. Samen bezorgen ze toezichthouders met dit boek een praktische hypefilter. ‘Sprookjes over AI zijn er al genoeg’, zegt Van Egerschot tegen MT/Sprout.
Eén vraag is vaak al genoeg om bedrijven van hun roze AI-wolk af te trekken. Die vraag stelt ze zelf vaak als eerste wanneer ze als auditor over de vloer komt: geef een overzicht van alle AI’s die worden gebruikt en welk doel ze dienen. Dan valt het meestal al stil, merkt ze op.
Toezichthouders zouden die vraag ook moeten stellen. ‘Maar de grootste hypefilter is de vraag: wat voegt AI toe aan waarde? Lossen jullie een probleem op of wordt hier echt een return on investment gecreëerd op een bepaalde termijn?’ Haar eigen ervaring is dat bij 50 procent het antwoord blijft steken op ‘eh…’.
Signaal afgeven
Met het stellen van lastige vragen gaan toezichthouders echt niet op de stoel van de directie zitten, geeft ze aan. Als de directie daarop geen antwoord weet, dan is dat juist een signaal dat er iets niet op orde is.
Het 4AIM-model
Esther van Egerschot en Marco Florijn hebben in hun boek een praktisch 4AIM-model uitgewerkt voor toezichthouders, zowel bij de overheid als bij het bedrijfsleven. Dit zijn de kernvragen van het model:
- Waar kijken we precies naar en wat valt er niet onder AI-toezicht?
- Begrijpen we waarom dit systeem bestaat en wat het beoogt?
- Waar is de mens nog aan zet en hoe blijft die toets zichtbaar?
- Hoe borgen we continuïteit en leren we van gebruik?
Niet dat toezichthouders zich nu meteen moeten gaan omscholen tot AI-experts, maar ze schuiven wel op van controleren naar vragen en leren. Ze moeten daarbij ook beseffen dat ze wel degelijk verantwoordelijk zijn.
Er hangen allerlei wettelijke verplichtingen aan AI-gebruik vast, financiële en organisatorische risico’s, cyber- en reputatierisico’s. ‘Je moet als toezichthouder dat stuk AI wel beetpakken, want het zit overal in je organisatie.’
Lees ook: AI ziet zak chips voor pistool aan – en zes andere blunders
AI is niet voor IT
AI is dus geen IT-project, het is niet alleen maar voor uitvoerders. Negeren of afwachten tot duidelijk is wat wel en niet mag, is ook niet verstandig. Alle ambitieuze AI-plannen van de directie omarmen evenmin. Maar Van Egerschot komt het wel allemaal tegen in de praktijk.
Het boek is dus ook een call to action. AI moet als een vast onderdeel op de agenda komen. AI-governance moet verankerd worden en daarbij hoort ook AI-geletterdheid bij voor de hele organisatie, inclusief de toezichthouders. Dat klinkt ingewikkeld, maar Van Egerschot houdt het liever simpel.
Eigenlijk moeten al die toezichthouders beginnen met drie stappen terug te zetten, geeft ze aan. ‘Teruggaan naar je vierjarige zelf en constant vragen waarom. Waarom moeten wij als organisatie überhaupt gebruik maken van AI? Je voelt namelijk toch een fear of missing out, fomo in de boardroom.’
Zet de rem erop
Bedrijven zijn bang dat ze een achterstand oplopen op de concullega’s. Ze worden nerveus van de verhalen dat er bij andere organisaties al zestig AI-agents draaien. ‘Iedereen wil op die rijdende trein springen.’
‘Door de snelheid waarmee de ontwikkelingen gaan, voelen toezichthouders niet de vrijheid om even drie keer adem te halen en te bedenken: lost dit nu een probleem op of voegt dit op een andere wijze waarde toe? Als het antwoord op beide vragen nee is, dan moet je meteen stoppen.’
Als het iets is wat in een Excel-sheetje opgelost kan worden, dan is het onzin om met een AI-tool opeens te moeten gaan voldoen aan de Europese AI-Act, geeft ze als voorbeeld. ‘De papierberg daarvoor is namelijk behoorlijk heftig. Daar wordt je juridische afdeling niet blij van. Je levert ze dan een probleem in plaats van een oplossing.’
Lees ook: Strengere AI-regels in aantocht: wat betekent dit voor jouw bedrijf?
Te weinig besef van de risico’s
Is er bij toezichthouders wel voldoende besef van de risico’s van AI? Nee, ondanks allerhande voorbeelden van AI-projecten waar overheden en bedrijven verschrikkelijk de fout mee ingaan. Ook daarvan staan voorbeelden in het boek, van de toeslagenaffaire tot Uber.
‘Er komt echt nog wel een tweede toeslagenaffaire’, voorspelt Van Egerschot. ‘Als je het rapport leest van de Algemene Rekenkamer over het gebruik van AI door de overheid, dan voel je aan je theewater dat het nog een keer misgaat.’
Het bedrijfsleven gaat ook serieus grove fouten maken, is haar tweede voorspelling. Dat gaat verder dan ‘enorme datalekken’ en ‘domme investeringen’ in AI-tools. ‘Organisaties begrijpen bijvoorbeeld niet dat datasoevereiniteit de komende jaren hun grootste achilleshiel zal worden. Met een complete afhankelijkheid, een vendor lock-in, van één of twee leveranciers die niet in Europa zitten.’
Afwegen hoort erbij
‘Alleen al de geopolitieke veranderingen van het afgelopen jaar maken ernstig duidelijk dat je als toezichthouder moeilijke vragen moet stellen aan je directie. Hebben we daarover nagedacht? Wat doen we eraan om minder afhankelijk te worden? Als we er niks aan kunnen doen, wat kunnen we dan uitleggen over onze keuzes?’
Alles in AI is een trade-off, een dilemma waar je nooit uitkomt, legt ze uit. Bedrijven willen innoveren, waarde toevoegen, maar dat betekent ook dat ze op het vlak van privacy, banen of ethische kwesties iets moeten inleveren. Zelfs als ze dat helemaal niet willen.
‘Je ontkomt niet aan die afwegingen in het AI-tijdperk, maar je moet ze wel constant kunnen verklaren. Dat is onmogelijk als daarover geen dialoog is tussen de directie en raad van commissarissen. Klankbord zijn als toezichthouder is nu zo verschrikkelijk belangrijk.’
Lees ook: Bij het opschalen van AI begint het gedoe op de werkvloer
De toekomstige achilleshiel
Hoe ga je als toezichthouder om met directies die in AI vooral een kostenbesparing zien? Houd ze een paar spiegels voor, adviseert ze. De eerste is de menselijke. Bedrijven die stoer aankondigen dat ze duizenden mensen vervangen door AI-agents krijgen niet alleen een deuk in hun reputatie.
Ze lopen een nog veel groter risico. Iedereen weet inmiddels wel dat AI hallucineert en dat de grote techjongens dit probleem niet kunnen oplossen. Als bedrijven die onzin er niet zelf uithalen, wordt zo’n AI-model daarop verder getraind. Dat betekent dat de kwaliteit van de output achteruitgaat.
‘Dat degeneratieve van die modellen is hun grootste achilleshiel, want als bedrijven dat niet weten te stoppen, verliezen ze het vertrouwen. Vertrouwen is alles in deze wereld: in producten, in diensten, in mensen.’
Er komt een omslagpunt aan, vertelt ze verder. ‘Door het oplopende gebrek aan vertrouwen in AI gaan we straks juist meer om mensen vragen. Wie dan heeft geïnvesteerd in medewerkers is op dat moment dus spekkoper.’
Kosten besparen is een mythe
De tweede spiegel is een financiële. Bedrijven trekken voor het ontwerpen en implementeren van AI-tools een budget uit. Dat is het dan, denken ze. Tot blijkt dat het AI-model andere dingen gaat doen dan het bedrijf voor ogen had. Dat wordt driften genoemd en ook dat moet gecorrigeerd worden.
Organisaties realiseren zich niet dat om AI een paar jaar gaande te houden, de kwaliteit te behouden en te verbeteren evenveel budget nodig is. ‘Dat financiële risico hebben mensen vaak helemaal niet voor ogen’, weet de buitengewoon hoogleraar. Kosten besparen wordt zo al gauw een mythe.
Elke bestuurder die enthousiast is over de oneindige mogelijkheden van AI moet van de toezichthouders in eerste instantie de waaromvraag krijgen. De tweede vraag is: wat zijn de budgetten die zijn ingecalculeerd voor governance, compliance, riskmanagement, monitoring, evaluatie en audit?
‘Bedrijven denken dat ze maar drie wagonnetjes hoeven te gaan trekken, maar vergeten dat ze er eigenlijk acht wagons bij mogen tellen. Hebben ze daarvoor wel voldoende kolen in hun locomotief, voldoende budget en menskracht om constant AI te monitoren en bij te stellen? Vaak is dat toch een beetje de killer van dat enthousiasme.’
In Toezicht houden in het AI-tijdperk laten Marco Florijn en Esther van Egerschot zien hoe commissarissen en toezichthouders grip kunnen krijgen op AI-governance, zonder zelf technisch expert te hoeven zijn – met heldere stappen, praktische tools en hun 4AIM-model dat AI toetsbaar maakt.
