Een AI-agent als collega, of misschien zelfs als supervisor? Op de werkvloer wordt het steeds normaler. Denk aan schrijf- of codeerassistenten die realtime meekijken en feedback geven, of andere systemen die medewerkers vertellen hoe ze functioneren.
Mensen zijn op hun werk steeds meer tijd kwijt aan het ‘praten’ met AI. Daarbij passen ze instinctief sociale schema’s toe. In de wetenschap wordt dat het computers are social actors-paradigma genoemd.
Zodra systemen menselijke trekken gaan vertonen, activeren onze hersenen scripts die we normaal voor de communicatie met mensen gebruiken. Dat werkt twee kanten op, want ook de toon en de manier waarop het systeem terugpraat, worden door ons onbewust als sociale signalen geïnterpreteerd.
Communicatiestijl doet ertoe
Onderzoekers van Harvard University, het MIT Center for Collective Intelligence in de VS en de Kozminski University in Polen vroegen zich zodoende af of de manier waarop AI op medewerkers reageert van invloed is op hun gedrag en prestaties. Maakt het uit of een bot vriendelijk is, of juist ongeduldig of kortaf?
De conclusie van hun onderzoek, waarvan de resultaten in Harvard Business Review zijn gepubliceerd: ja, de persoonlijkheid (persona) die een AI aanneemt en de stijl van communiceren doen ertoe.
Lees ook: AI-managers rukken op, en dat is voor werknemers geen goed nieuws
Aan de studie namen ongeveer zestig mensen deel. Zij moesten een marketingopdracht maken voor een fictief cleantechbedrijf en die vervolgens ter beoordeling voorleggen aan een chatbot. De opdracht bestond uit vier delen, en ze hadden steeds goedkeuring nodig om verder te kunnen.
Empatisch versus vijandig
Bij het experiment waren twee typen chatbots betrokken. Ze waren beiden geïnstrueerd om de deelnemers niet te helpen en ze werden aangestuurd door hetzelfde model (GPT-4o).
Alleen hun ‘persoonlijkheden’ verschilden. De ene helft van de deelnemers werkte samen met een zogeheten servant leader, een ondersteunende en empatische persona. De bot moedigde deelnemers aan, gaf constructieve en uitgebreide feedback en deed dat op een positieve toon – allemaal eigenschappen die passen bij dienend leiderschap.
De rest van de groep kreeg het te stellen met de dark triad, een AI-supervisor die vijandig, manipulatief en diep sarcastisch was. De bot maakte kleinerende opmerkingen, trok de competentie van deelnemers in twijfel en wuifde innovatieve ideeën weg.
Glimlachen of fronsen
Wat die ‘samenwerking’ met de deelnemers deed? Dat maten de onderzoekers op verschillende manieren. Allereerst registreerden ze stresssignalen via de huid en de spieractiviteit in het gezicht. Of kandidaten glimlachten of fronsten, bijvoorbeeld.
Daarnaast keken ze welke emoties en welk gedrag de boventoon voerden in de chatgesprekken. Of de deelnemers ertegenin gingen als ze kritiek kregen, of pogingen deden om met de AI-supervisor te onderhandelen of die te omzeilen.
Onafhankelijke experts, die niet wisten door welke bot een deelnemer was begeleid, beoordeelden vervolgens de kwaliteit van het uiteindelijke werk. En tot slot vulden de deelnemers voor, tijdens en na het uitvoeren van de taak zelf ook vragenlijsten in.
Hogere stressniveaus
De kandidaten die met de toxische AI-bot moesten werken, hadden daar duidelijk last van. Hun lichamelijke stressniveaus waren tot 72 procent hoger dan die van de mensen die door de vriendelijke en behulpzame bot werden begeleid.
Ook na het afronden van de opdracht, bleef de groep met de dark triad-bot gespannen en waakzaam. Dat mensen al zoveel stress krijgen van een labexperiment, belooft weinig goeds voor de werkvloer, aldus de onderzoekers.
Lees ook: AI verandert meer dan de manier van werken: ook de relaties met collega’s gaan eraan
Deelnemers gingen tien keer vaker tegen de dark triad in, en probeerden die vier keer vaker te omzeilen, bijvoorbeeld door de bot met prompts in een andere rol te dwingen. De gesprekken met de vijandige AI duurden bovendien langer, terwijl de antwoorden ongeveer de helft korter waren. Kortom: mensen moesten meer moeite doen voor minder hulp.
Niet bewust van effecten
Daar leden de resultaten onder. De mensen die door de aardige bot werden begeleid, scoorden een stuk beter op kwaliteit, originaliteit en volledigheid. De groep die met de nare bot werkte, deed het niet alleen slechter, hun resultaten schommelden ook meer. ‘De output is onvoorspelbaarder’, aldus de wetenschappers.
Opvallend is dat de proefpersonen zich daar, afgaande op de vragenlijsten, zelf nauwelijks bewust van leken. De mensen die met de gemene bot werkten, hadden naar eigen zeggen evenveel plezier in de opdracht en konden zich net zo goed concentreren als de mensen die door de vriendelijke bot werden begeleid.
Gebruikers herkennen de negatieve effecten zelf dus niet als zodanig. Laat dat een waarschuwing zijn voor organisaties die kunstmatige intelligentie op grote schaal inzetten, stellen de onderzoekers. ‘De nadelige gevolgen kunnen zich ongemerkt opstapelen; ze zijn zichtbaar in verhoogde stress en slechtere prestaties, maar veel minder in tevredenheidsonderzoeken en andere dashboards waarop AI-systemen vaak worden beoordeeld.’
Gedragscode voor AI-collega’s
Veel bedrijven meten het succes van AI-adoptie vooral af aan hoe vaak medewerkers inloggen, hoeveel vragen ze stellen en hoe tevreden ze zelf zeggen te zijn. Organisaties zouden ook moeten meten hoeveel wrijving AI veroorzaakt: hoeveel extra moeite medewerkers moeten doen om met het systeem te werken.
Medewerkers kunnen de systemen massaal gebruiken en er toch veel extra tijd aan kwijt zijn. En dan is er nog de vraag hoe die bots zich tegenover hun menselijke collega’s gedragen. Ook dat is een ontwerpkeuze, aldus de onderzoekers. Op de werkvloer gelden gedragscodes; zorg dat AI-collega’s zich daar ook aan houden.
