Een groot deel van de keuzes die we maken worden beïnvloed door algoritmes. Netflix doet aanbevelingen voor wat we moeten kijken, Coolblue doet productvoorstellen en Zalando mailt je kledingsuggesties. Maar hoewel bedrijven steeds meer vertrouwen op data, proberen ze dat in toenemende mate te verhullen. Bij Zalando is het niet de computer, maar ene Anne van Zalando die je mailt met broeken en feestjurken die echt iets voor jou zijn.
Vermenselijken
Ook techbedrijven doen er van alles aan om hun techniek te vermenselijken. Ze geven het een menselijke naam (Alexa, Siri) of een gezicht en lieve bewegingen zoals de robot Jiro. Maar is dit wel nodig? Zijn mensen echt zo avers om advies aan te nemen van een algoritme? Daar deden Jennifer Logg, Julia Minson van Harvard en Don Minson van UC Berkeley onderzoek naar. Zij ondervonden dat mensen helemaal niet zo’n hekel hebben aan algoritmes als vaak vanuit wordt gegaan. Zo bleek dat mensen advies eerder opvolgden als van een computer kwam dan van een mens.
Er werd een aantal experimenten gedaan naar de relatie tussen mensen en algoritmes. In het eerste experiment werden mensen gevraagd een schatting te geven over een aantal. Het onderwerp varieerde van geopolitiek (hoe groot achtten ze de kans dat de VS of Europa een cyberaanval zou vergelden) tot zakelijk (hoe groot achtten ze de kans dat Tesla in 2016 meer dan 80.000 elektrische auto’s zou produceren). Na de eerste schatting kregen ze advies, ofwel van een ander mens of van een algoritme, maar het advies was hetzelfde getal. En hoewel de respondenten geen idee hadden over hoe het algoritme werkten, luisterden ze beter naar het algoritme.
Dit effect bleek sterker te zijn naarmate mensen meer verstand van rekenen hadden. Dus hoe beter mensen konden rekenen, hoe beter ze naar het algoritme luisterden.
Wetenschappers
Om te testen of er in de wetenschap nog steeds van uit wordt gegaan dat mensen algoritmes wantrouwen, werd de onderzoeksopzet aan 119 wetenschappers voorgelegd. Hen werd gevraagd om te voorspellen of de participanten zouden luisteren naar het algoritme of andere mensen. De onderzoekers voorspelden dat mensen een aversie zouden hebben tegen het antwoord van de computer. Het tegenovergestelde van wat het geval was.
Ook werd gekeken naar of de expertise van mensen uitmaakte. De onderzoekers zetten veiligheidsadviseurs, die voor hun beroep inschattingen moeten maken tegenover een groep willekeurige mensen. De groepen moesten een inschatting maken over geopolitieke gebeurtenissen. De groep willekeurig gekozen participanten gedroeg zich zoals de groep in de eerste studie. De groep experts luisterde noch naar andere mensen noch naar algoritmes. Zij vertrouwden hun eigen mening meer dan die van anderen en van de computer.
Na een jaar werd gekeken hoe de twee groepen gepresteerd hadden en of de gebeurtenissen daadwerkelijk hadden plaatsgevonden. Uit de antwoorden bleek dat de experts significant slechter scoorden omdat ze niet luisterden naar advies.
Grappen
Uit andere onderzoeken blijkt wel dat de context van de besluitvorming afhangt van of mensen naar algoritmes luisteren. Als het gaat om het advies over een grap, dan prefereren mensen het advies van een vriend boven dat van een algoritme. Ook als is het advies van het algoritme beter. Ook adviezen over morele beslissingen over zelfrijdende auto’s of geneesmiddelen horen mensen liever van een mens.
Uit deze studie blijkt dus niet dat mensen liever naar een computer luisteren dan naar andere mensen, maar dat we niet zo algoritme-avers zijn als bedrijven soms denken.
