Voor professor Désirée van Gorp, hoogleraar aan Nyenrode Business Universiteit is het centraal stellen van de technologie een van de belangrijkste blinde vlekken die ze tegenkomt bij bedrijven. Dat blijkt ook uit de AI-stresstest die ze net heeft ontwikkeld met Andreea Bulisache, Nyenrode alumna, oprichtster van Stratified Advisory en voormalig Microsoft National Technology Officer.
Van Gorp geeft een voorbeeld van hoe in de praktijk vaak als eerste aan technologie wordt gedacht. Bij een ziekenhuis wordt het verkeerd uitdelen van medicijnen aangepakt met een slimme app. Die oplossing kost best wat geld, maar achteraf blijkt dat er nog altijd verwisselingen gebeuren tussen medicijnen en patiënten.
Bij nader onderzoek – in het veld deze keer – blijkt dat de medicijnen worden uitgedeeld tijdens de bezoekuren. Dat betekent veel afleiding. De nieuwe oplossing is een stuk minder technologisch. Een hesje van 25 euro met daarop de tekst: ‘Niet storen bij het medicijnen uitdelen’.
Wat is de AI-stresstest?
Banken zijn al langer bekend met het fenomeen stresstesten. Daarmee wordt nagegaan hoe goed ze financiële en economische schokken kunnen opvangen. Bij de AI-stresstest van Nyenrode gaat het over de impact van het inzetten van AI-tools op een organisatie. Hoe helpt deze technologie om de gewenste doelen te realiseren? Dat wordt uitgebreid onderzocht.
Daarbij wordt niet alleen de hele organisatie onder de loep genomen, van processen tot werknemers, maar ook de leveranciers en partners in de keten, legt Van Gorp uit aan MT/Sprout.
Het invullen van vragenlijsten is daar een onderdeel van. ‘Met wie heb je vooraf aan tafel gezeten? Wie zijn de leveranciers van je data? Weet je ook wat daarmee is gebeurd? Eigenlijk wordt alles goed doorgelicht.’
Blinde vlek 1: technologie is de oplossing
Met behulp van diverse praktijkcases wordt ook duidelijk gemaakt welke gevaren er spelen. Stel dat het algoritme discrimineert, wie is dan verantwoordelijk? Wat als de aanpak van fraude onterecht mensen uitsluit van toegang? Daar is de toeslagenaffaire met discriminerende algoritmes het bekendste voorbeeld van. ‘Maar wat voor de overheid geldt, geldt ook voor veel andere organisaties.’
De test is al een paar maanden in gebruik en Van Gorp ziet vaak dezelfde blinde vlekken terugkomen. Net zoals het ziekenhuis uit het voorbeeld, nemen organisaties de technologie – waaronder AI – als uitgangspunt en gaan vervolgens op zoek naar een probleem.
Ze heeft dat fenomeen ‘de AI-illusie’ gedoopt. ‘Je kunt veel beter beginnen met welk probleem je op wilt lossen. Dat kan met AI zijn, maar ook op een andere manier.’ Maak eerst duidelijk welk probleem of knelpunt getackeld moet worden, daarna kunnen daar AI-tools, data en partners bij worden gezocht. Daarmee maken AI-projecten ook meteen een grotere kans van slagen.
Blinde vlek 2: aannames
Een tweede grote blinde vlek zijn aannames die niet gecheckt worden. Van Gorp haalt een voorbeeld aan van een ander ziekenhuis. Om de drukbezette longartsen te helpen, schaft de directie een AI-tool voor ze aan. Die tool zou ze ondersteunen met administratieve taken, waaronder capaciteitsmanagement. Alleen maken de artsen er geen gebruik van, de tool past niet in hun werkschema.
Zij hebben ook nooit aan tafel gezeten bij de gesprekken over de aanschaf van die AI-tool. Aan de artsen is nooit de vraag gesteld of die tool wel past in hun workflow. ‘Je kunt een hoop geld en ellende besparen als je eerst het gesprek aangaat met de mensen die betrokken zijn bij dit nieuwe AI-systeem. Is je organisatie eigenlijk wel klaar voor zo’n AI-project? ‘
Een mensgerichte benadering leidt tot een succesvollere implementatie van AI, is de ervaring van de hoogleraar. Dat houdt niet alleen het uitnodigen van medewerkers in. Het hele ecosysteem rond de organisatie zou erbij betrokken moeten worden. Dus ook de leveranciers, de partners én liefst ook de klanten.
Blinde vlek 3: onbedoelde gevolgen
Het inzetten van AI-tools kan ook onbedoelde gevolgen hebben. Dat is gebleken bij een verzekeraar die meer claims wilde laten afhandelen met behulp van AI. Bij de businesscases is daar vooral gekeken naar efficiëntie, geeft ze aan. Niet naar het voldoende opleiden van de medewerkers, of naar wat de gevolgen zijn voor de klant.
Een onbedoeld gevolg kan zijn: een AI die claims afwijst die bij nader onderzoek wel terecht blijken te zijn. ‘Dan sla je de plank alsnog mis, en de schade daarvan kan groter zijn dan de winst die met die tool geboekt wordt. Alleen wordt naar die onbedoelde consequenties nog veel te weinig gekeken.’
Om te voorkomen dat organisaties hun AI-projecten niet kunnen opschalen, is strategisch een andere aanpak nodig. Begin bij het probleem in plaats van de technologie. Vertrek vanuit een mensgerichte benadering in plaats van efficiëntie. Breng ook de onbedoelde gevolgen in kaart. ‘Anders gaat de rem erop, en dat is een gemiste kans.’
Data en risico’s zijn ook blinde vlekken
Hoe belangrijk het is om ook verder te kijken dan de organisatie, blijkt uit het voorbeeld van een onderwijsinstelling. Die struikelde bij de AI-stresstest over de vraag waar de data vandaan kwam en waarop werd beslist of iemand tot een opleiding werd toegelaten of niet. ‘Daar moet soms stevig over doorgevraagd worden om mensen te laten realiseren wat het risico is. Zo is de instelling er wel achter gekomen dat de data die ze gebruikten helemaal niet geschikt waren om dergelijke beslissingen te nemen.’
Data kunnen dus ook een blinde vlek zijn. Zo vertelt Van Gorp over een bedrijf dat voor beslissingen vertrouwde op een data lake, waarin allerhande gegevens worden opgeslagen, zonder dat iemand wist welke data daar precies inzaten en of die wel opgeschoond waren. ‘Iedereen dacht dat het geregeld was, maar dat opschonen is nooit gedaan. Achteraf wordt dan gezegd, op basis van die data hadden we nooit besluiten mogen nemen.’
Verantwoordelijkheid blijven nemen
Het zijn simpele voorbeelden, maar dit gebeurt vaak in de praktijk. Er wordt in veel gevallen een businesscase gemaakt en die wordt soms dan ook nog uitbesteed. ‘Daarmee maken ze de leverancier verantwoordelijk en is AI niemands probleem. Nee, als organisatie blijf je zelf verantwoordelijk. Wanneer er iets misgaat, dan zie je dat AI plots wél het probleem van iedereen wordt.’
Organisaties moeten veel meer vragen ‘aan de voorkant’ gaan stellen, geeft Van Gorp aan. Vragen over de data, waar die vandaan komen, maar of er voldoende aangeleverd kan worden om te blijven leren. ‘AI is een lerend systeem, dus van welke data mag er dan geleerd worden? Welke variabelen mag het systeem manipuleren en welke niet?’
Transparantie is daarbij heel belangrijk. Zomaar kiezen voor een black box, zoals het bedrijf met het data lake, kan voor enorme ongelukken zorgen. ‘Dat wil natuurlijk niemand, maar dat komt ervan als je dergelijke vragen niet vooraf stelt. Wat je nu vooral ziet, is dat er veel aan de achterkant wordt ontdekt, maar dan is het wel te laat’.
Dit artikel wordt u aangeboden door
Nyenrode Business Universiteit
Nyenrode werkt aan een duurzame toekomst door studenten en deelnemers te stimuleren zich te ontwikkelen tot verantwoordelijke leiders.
Meer info
