Het waren klinkende cijfers die Klarna in februari 2024 presenteerde, een maand na de introductie van de nieuwe AI-assistent. In slechts een maand tijd had de chatbot 2,3 miljoen gesprekken gevoerd, wat neerkomt op het werk van 700 medewerkers. De chatbot – die 35 talen spreekt – had bovendien een even hoge klanttevredenheidsscore en was niet alleen sneller, maar ook veel nauwkeuriger.
‘Waarom zou je dan in hemelsnaam nog echte mensen inzetten?’ vroeg ceo Sebastian Siemiatkowski zich hardop af. Hij kondigde aan het personeelsbestand – dat in een jaar al van 5.000 naar 3.800 medewerkers was gekrompen – nog verder terug te brengen, naar slechts 2.000 mensen. Vooral bij customer support zou fors worden gesnoeid.
Een jaar later moest hij op zijn woorden terugkomen. Want een klantenservice zonder mensen, dat bleek een ramp. Klanten klaagden dat ze met echte mensen wilden praten in plaats van robots – niet verwonderlijk, gezien Klarna een betaaldienst is en er dus geld op het spel staat.
Enorm economisch potentieel
Siemiatkowski’s enthousiasme – en zijn haast – zijn te begrijpen. De introductie van zijn chatbot viel vorig jaar samen met een aantal grote doorbraken op het gebied van kunstmatige intelligentie. Grote taalmodellen boekten in korte tijd enorme vooruitgang in het zelfstandig redeneren en via verschillende wegen tot de beste oplossing komen. Ook konden ze meer onthouden, waardoor ze langere en complexere taken konden uitvoeren.
Klarna’s klantenservicerobot was daarmee eigenlijk een voorloper voor wat agentic AI is gaan heten: technologie die zelfstandig kan plannen, doen en beslissen, maar ook kan samenwerken en leren.
Lees ook: ‘Explosieve groei’ van AI-agents verandert hoe bedrijven werken
Deze AI-agents kunnen tegen 2028 tot wel 450 miljard dollar aan economische waarde genereren, becijferde Capgemini afgelopen juli, op basis van onderzoek onder 1.500 leiders van bedrijven in 14 landen, waaronder Nederland. De komende 12 maanden alleen al verwachten de onderzochte organisaties 19 miljard dollar extra winst te maken dankzij de inzet van agentic AI, door een combinatie van omzetstijgingen en kostenbesparingen.
Tegelijkertijd is het vertrouwen in de technologie volgens het rapport laag. De afgelopen 12 maanden is het zelfs gedaald: slechts 27 procent van de leiders vertrouwt AI-agents om taken zelfstandig uit te voeren, waar dat een jaar eerder nog 43 procent was. En hoewel ze er wel veel gebruik van maken, staan ook consumenten sceptisch tegenover kunstmatige intelligentie, blijkt uit ander onderzoek van KPMG en de Universiteit van Melbourne (Wereldwijde Vertrouwensmonitor, 2025). Minder dan de helft (46 procent) zegt vertrouwen te hebben in AI.
Rijke historie aan schandalen
Nederlanders zijn nog pessimistischer. Slechts een derde van de Nederlanders (33 procent) heeft vertrouwen in AI. Ruim acht op de tien mensen (85 procent) noemen negatieve gevolgen als belangrijke zorg, ongeveer de helft vindt dat de risico’s niet opwegen tegen de voordelen (49 procent).
Ze hebben een punt, zegt Marc van Meel, lead responsible AI bij KPMG, die betrokken was bij het onderzoek. ‘Als het gaat om de inzet van AI, kent Nederland helaas een rijke historie aan schandalen.’ De toeslagenaffaire bij de Belastingdienst bijvoorbeeld, waarbij duizenden ouders ten onrechte werden beschuldigd van fraude door discriminerende algoritmes. Andere overheidsorganen, waaronder DUO en de politie, zijn met dit soort algoritmes eveneens de mist ingegaan.
Net als banken, die in de strijd tegen witwassen en terrorismefinanciering te weinig doen om discriminatie tegen te gaan – waar moslims volgens Rabin Baldewsingh (Nationaal Coördinator tegen Discriminatie en Racisme) structureel de dupe van zijn. Uit aanvullend onderzoek van De Nederlandsche Bank en het Ministerie van Financiën bleek dat een op de drie klanten met een niet-westerse achtergrond discriminatie ervoer.
Reputatie als cruciale asset
ING is een van deze banken. De pijn zat niet zozeer het feit dat transacties van deze klanten vaker als verdacht werden aangemerkt, al laat de bank in een reactie weten dat AI bij dit proces geen rol speelde, maar in de manier waarop ze daarop werden aangesproken. Zo moesten moskeeën zich verantwoorden voor schenkingen en moesten klanten uitleggen waarom ze elk jaar tijdens de ramadan geld naar familie in het buitenland overmaakten. Topman Peter Jacobs, ceo van ING Nederland, bood hier dit voorjaar excuses voor aan.
Lees ook: ING-excuses voor discriminatie gefileerd door communicatie-experts
Ook deze kwesties spelen een rol bij het publieke vertrouwen in nieuwe technologieën. En dergelijke ongelukken zijn volgens Van Meel nooit helemaal te voorkomen. ‘De introductie brengt nu eenmaal nieuwe risico’s met zich mee, die vaak niet zijn afgedekt door de bestaande beheersmaatregelen en governance-structuren.’
Dat kan grote gevolgen hebben, ziet hij. ‘Vertrouwen is moeilijk te winnen en makkelijk te verliezen. Vertrouwen is nauw verbonden aan reputatie, een cruciale asset voor bedrijven. Dit soort incidenten kunnen langdurige schade veroorzaken – zeker als het gaat om organisaties met een grote impact op de levens van mensen.’
Bedrijven die er bijvoorbeeld voor kunnen zorgen dat jouw cv wel of niet naar een werkgever wordt doorgespeeld, dat je wel of juist geen hypotheek krijgt, die betalingen of een volledige bankrekening kunnen blokkeren. Daarom lag de kwestie-ING ook zo gevoelig, zegt Kim Pot, trainer en auteur van het boek Werk hand in hand met AI. Het is een goed voorbeeld van wat er kan misgaan als technologie en beleid botsen.
De excuses sieren de bank, stelt ze. ‘Al hoop ik dat er ook daadwerkelijk intern iets verandert. Maar normaal zijn bedrijven redelijk slecht in het nemen van hun verantwoordelijkheid.’
Vangrails inbouwen
Hoe moet het wel? Het vertrouwen van klanten in AI neemt toe naarmate bedrijven verder komen met de implementatie, concluderen de deskundigen. Mits organisaties daarbij vangrails inbouwen, om te zorgen dat kunstmatige intelligentie op een ethische en verantwoorde manier wordt ingezet.
Dat proces is volop in ontwikkeling, blijkt uit cijfers van Capgemini: 36 procent van de bedrijven is bezig met het vaststellen van beleidsregels en kaders voor responsible AI, 33 procent bevindt zich in de adoptiefase en 14 procent heeft de principes volledig geïntegreerd in de besluitvorming, governance en workflows.
Lees ook: Van 300 naar 120 fte met AI – en HelloPrint groeit onverminderd door
Daarbij zou het vertrekpunt volgens Marc van Meel (KPMG) moeten zijn wat hij ethics by design noemt. ‘Dat betekent dat je de belangen van alle stakeholders, waaronder je klanten, al meeneemt in de vroegste fase van ontwikkeling’, zegt hij. ‘Breng de waardegebieden in kaart die door de AI geraakt kunnen worden – of een efficiëntieslag niet ten koste gaat van baanverlies of de klanttevredenheid, bijvoorbeeld – en weeg de gevolgen en risico’s van de implementatie af. Zo kun je een evenwichtig besluit nemen. Dat is iets heel anders dan achteraf toetsen of er negatieve bijeffecten zijn waarop moet worden bijgestuurd.’
Klinkt logisch, maar volgens de AI-expert gaat het daar vaak fout. Een bekend voorbeeld is een pilot van Albert Heijn met beeldherkenning, in 2019. De supermarkt vroeg al het winkelpersoneel een foto in ondergoed of strakke sportkleding in de medewerkersapp te uploaden, zodat een algoritme op basis van die beelden de maten voor de nieuwe bedrijfskleding kon bepalen. Zodra de media daar lucht van kregen, werd de proef direct afgeblazen.
Te laat, zegt Van Meel, want toen was de schade al aangericht. ‘Vanuit automatiseringsperspectief snap ik dat deze methode mogelijk sneller en efficiënter was dan iedereen naar hun maten te vragen. Maar in supermarkten werken vooral minderjarigen, dus eigenlijk was Albert Heijn bezig een nogal twijfelachtige database aan te leggen. Bizar eigenlijk dat niemand heeft gezegd: hé, volgens mij is dit niet zo’n goed idee.’
Transparantie verplicht
Naast het naleven van privacyregels en het voorkomen dat er biases in modellen sluipen, gaat responsible AI ook over transparantie over het gebruik ervan. Sinds de AI Act in Europa van kracht is, zijn bedrijven hier wettelijk toe verplicht. De wet werd in 2024 aangenomen en wordt gefaseerd uitgerold.
Afgelopen augustus trad de tweede fase in werking. Die omvat specifieke vereisten over modellen in de zogeheten ‘beperkt risico’-categorie, AI die mensen kan misleiden. Denk aan een chatbot die zich voordoet als een mens, of content die door AI is gegenereerd, zonder dat daarvan melding wordt gemaakt. Dat is nu verboden.
Lees ook: Strengere Europese AI-regels in aantocht: wat betekent dit voor jouw bedrijf?
Bedrijven die gebruik maken van general purpose AI, modellen die voor verschillende taken kunnen worden ingezet (denk aan ChatGPT, Microsoft Copilot of Google Gemini), moeten bovendien documentatie bijhouden over hoe deze modellen ontworpen en getraind zijn en hoe ze worden geëvalueerd, en openheid van zaken geven over de trainingsdata.
Hoewel AI-expert Kim Pot sceptisch is over de effectiviteit van de wet, moedigt ze de verplichting tot transparantie aan. ‘Verantwoord AI-beleid klinkt heel groot en ingewikkeld, maar eigenlijk is het vrij simpel. Begin bijvoorbeeld met op je website zetten wat je wel en niet met AI doet en wie er verantwoordelijk is als er iets misgaat. Dat blijkt al een struikelblok, mensen wijzen vaak naar elkaar.’
Van Meel gelooft in transparantie tot op zekere hoogte. ‘Ik geloof niet dat we taalmodellen of neurale netwerken tot in detail moeten willen uitleggen. Als een model volledig uitlegbaar zou zijn, zouden we het ook niet nodig hebben.’ Vergelijk het met een auto, zegt hij. ‘Bestuurders hoeven niet exact te weten hoe de motor werkt, zolang ze maar weten dat er onafhankelijke controles zijn, zoals de APK, en ze er veilig in kunnen rijden. Die mechanismen moeten we inrichten. Met de EU AI Act is daarmee een eerste stap gezet.’
Ikea’s AI-assistent wel een succes
Pot noemt ook het belang van geleidelijke adoptie om het vertrouwen van de consument te winnen. ‘Bedrijven die succes boeken met AI, zijn kleinschalig begonnen en bouwen de toepassingen stapsgewijs verder uit.’ Als voorbeeld wijst ze op Ikea, dat in 2021 een eigen AI-assistent introduceerde: Billie, naar de bekende boekenkast. Inmiddels zijn we vier jaar verder en handelt Billie bijna de helft van alle klantvragen af.
In tegenstelling tot Klarna besloot de meubelgigant daarop niet om de hele klantenservice boventallig te verklaren. In plaats daarvan keek het bedrijf naar wat Billie al wel en nog niet kon, werd de assistent doorlopend doorontwikkeld en werden er stap voor stap nieuwe functies aan zijn takenpakket toegevoegd, zoals het controleren van de orderstatus of het wijzigen van leveringen.
De 8.500 medewerkers die door Billie zonder werk kwamen te zitten, werden niet ontslagen, maar omgeschoold. Tot digitale interieuradviseur bijvoorbeeld, of AI-developer.
Lees ook: Drie topbestuurders over hoe AI hun organisatie verandert
Bovendien bleven er mensen nodig op customer support. ‘Klanten kunnen kiezen of ze met een chatbot of een echt mens willen praten’, zegt Pot. ‘Op hun beurt kunnen medewerkers de AI-assistent weer gebruiken als tool om klantvragen sneller te beantwoorden.’ En omdat Billie de routinevragen afhandelt, wordt hun werk nog leuker ook.
Spring niet te snel op de AI-trein
Welke lessen Klarna hieruit kan trekken? Wees niet te gretig om te snel op de AI-trein te springen, betrek je klanten en medewerkers in het proces en verzamel doorlopend feedback. Pot: ‘Vlieg het aan als experiment, dat maakt het ook makkelijker om erover te communiceren. Klarna heeft AI te snel te groot gemaakt. Het is nogal een stap om als bedrijf te zeggen dat je voortaan alleen nog maar door chatbots kunt worden geholpen.’
Dat besef is inmiddels ook geland bij ceo Sebastian Siemiatkowski. Een jaar later, in februari 2025, kwam de Klarna-topman op zijn woorden terug. Hij had een openbaring gehad, schreef hij op X. ‘In a world of AI, nothing will be as valuable as humans.’ En ja, daar mochten mensen best om lachen.
De focus zou voortaan liggen op ‘de beste worden in het bieden van menselijke ondersteuning’, schreef hij ook. Noem het voortschrijdend inzicht.
Under-trust versus over-trust
Wat is vertrouwen? In de kern is het simpel, zegt mediapsycholoog en gedragsstrateeg Mischa Coster. ‘Voor langdurig vertrouwen is de voorspelbaarheid van de uitkomst essentieel.’ Trek je dat door naar de relatie tussen bedrijven en hun klanten, dan zijn een aantal zaken volgens hem cruciaal. ‘Consistentie, congruentie en herkenbaarheid. En zorgen dat ze voldoen aan de verwachtingen die ze bij klanten wekken.’
Consistentie betekent dat de toon en boodschap overal hetzelfde zijn, congruentie houdt in dat die boodschap overeenkomt met de manier waarop bedrijven handelen. Samen zorgen die twee zaken voor herkenbaarheid en voorspelbaarheid. Coster: ‘En wat voorspelbaar is, is in onze hersenen het meest betrouwbaar.’
Nu bedrijven kunstmatige intelligentie aan die mix toevoegen, treden er volgens Coster allerlei psychologische processen in werking, die we eerder ook zagen bij de introductie van de computer en het internet. En hoewel veel mensen nu nog wantrouwig tegenover AI staan, is het risico op ‘over-trust’ volgens hem op termijn veel groter, en bovendien gevaarlijker.
Geneigd om AI te vertrouwen
Coster wijst op de automation bias, de neiging van mensen om informatie afkomstig van geautomatiseerde besluitvormings- en aanbevelingssystemen, machines dus, te bevoordelen boven informatie waar geen automatisering aan te pas komt. Ook als de AI ernaast zit. ‘Hoe omvangrijker het model, hoe minder goed we snappen hoe het werkt en hoe groter de kans dat er onwaarheden worden verkondigd. Onder de motorkap gebeurt zoveel dat we niet weten, waardoor we ook niet weten of de output ethisch verantwoord is.’
Dat is al een risico bij direct gebruik van AI, maar het wordt nog gevaarlijker als AI-modellen ook andere modellen gaan trainen. Moedermodellen kunnen onethische eigenschappen namelijk doorgeven, ook als er bij het ‘studentmodel’ ethische safeguards zijn ingebouwd, blijkt uit een recente studie van Anthropic.
Coster: ‘Het moedermodel had een aantal heel venijnige eigenschappen en gaf die via verborgen signalen, gecodeerde berichten die voor mensen niet te decoderen waren, door aan de dochter. Waarop het dochtermodel dezelfde onethische dingen begon te roepen.’
Dat gevaar wordt volgens de kenner door het bedrijfsleven nog te weinig gezien. ‘Bedrijven focussen vooral op de acceptatiegraad van AI. Die moet omhoog, want dan kunnen ze AI grootschaliger inzetten, wat goed is voor de efficiëntie en winst.’ Bedrijven zullen denken dat ze er op korte termijn geen baat bij hebben om het risico van over-trust te erkennen, vermoedt hij. Mis. ‘Dat hebben ze wel, het is alleen een langzamer proces. Want als op langere termijn blijkt dat AI-gegeneerde adviezen en diensten bijvoorbeeld richting uitsluiting van bepaalde bevolkingsgroepen leidt, zijn we nog verder van huis.’
