De meeste verhalen over AI focussen op de succesverhalen van big tech in Silicon Valley. Madhumita Murgia, de AI-watcher van de Financial Times, kijkt naar de impact van AI op de rest van de wereld. In In de schaduw van AI dat volgende week verschijnt, leidt haar zoektocht onder meer naar het ‘datakolonialisme’.
Dat concept is afkomstig van de sociologen Nick Couldry en Ulises Mejias. Murgia omschrijft het kort als ‘een soort landjepik waarbij mensenlevens worden omgezet in een constante datastroom’.
Ze ziet echter meer parallellen: de macht en de middelen zijn geconcentreerd bij enkele bedrijven, maar de schadelijke effecten zijn voor de anderen. Vrouwen, mensen van kleur, migranten en vluchtelingen, godsdienstige minderheden, armen en mensen met een beperking, somt ze de slachtoffers op in haar boek.
Verkeersborden labelen voor Tesla
Zij ondervinden disproportioneel veel hinder van AI-technologieën, vindt Murgia. Vooroordelen, negatieve stereotyperingen zijn nog maar het topje van de ijsberg. ‘De dataficatie van de samenleving is niets meer of minder dan een nieuwe vorm van plundering en onderdrukking.’
Murgia is niet tegen AI, integendeel. Ze heeft er haar journalistieke carrière aan gewijd. Ze noemt zichzelf ook een ‘onverbeterlijke techno-optimist’. Maar dat betekent niet dat ze de ogen sluit voor de consequenties: de ingrijpende veranderingen in onze samenleving.
Ze brengt die in haar boek voor het voetlicht via tien heel persoonlijke verhalen van gewone mensen. Bijvoorbeeld dat van Ian Koli die woont en werkt in Nairobi, Kenia. Voor het bedrijf Sama labelt hij vooral beelden voor gebruik in zelfrijdende auto’s. De computers van Tesla’s, Ubers en BMW’s moeten een straat kunnen ‘lezen’.
Lees ook: AI richt nu al schade aan, zegt deze techfilosoof
Snelgroeiende industrie
Koli tekent vakjes rond alle voorwerpen die hij ziet op de video’s van chauffeurs. Andere voertuigen, mensen, dieren, bomen, stoplichten, vuilnisbakken, wolken en zebrapaden. Zonder dat menselijke werk blijven zelfrijdende auto’s blind.
Sama is niet het enige bedrijf dat zulke diensten aanbiedt. Het is een snelgroeiende industrie, die in 2030 zo’n 17 miljard dollar waard zal zijn, geeft de auteur aan. In Brazilië trainen uit Syrië gevluchte artsen medische software die helpt bij de diagnose van prostaatkanker. In Venezuela categoriseren werklozen modeproducten voor commerciële webshops.
‘Straatarme vrouwen in Metiabruz, een moslimwijk in Kolkata, labelen clips met stemmen voor de Echo-speaker van Amazon. Hun werk verdoezelt een publiek geheim: dat AI-technologie niet autonoom leert, maar afhankelijk is van de input van miljoenen mensen’, schrijft Murgia.
Verborgen leger
De content op YouTube, TikTok, Instagram, op shoppingsites en ChatGPT: het is allemaal gelabeld en gecategoriseerd door ‘het verborgen leger’ van datawerkers. Vaak afkomstig uit kwetsbare groepen, onderbetaald, ze hebben geen rechten, geen onderhandelingskracht, maar wel een zwijgplicht.
De bedrijven zelf zeggen dat ze de mensen willen helpen om zich los te maken uit de armoede of moeilijke omstandigheden. Dat ze hen kansen willen geven. Toch ziet Mugli in de praktijk een ander verhaal.
‘De data-industrie veroorzaakt dezelfde onoverbrugbare kloven en dezelfde vormen van ongelijkheid die zijn ontstaan in sectoren als de kledingindustrie en it, die altijd veel hebben uitbesteed.’
Lees ook: Waarom AI vooral een leiderschapsvraagstuk is
Datakolonialisme
Datawerkers zijn het fundament van AI-technologie, maar ze krijgen enkele dollars per uur betaald. Als dit wordt afgezet tegen de prijs van een Tesla of de waarde van een Elon Musk, dan is het verschil enorm. Ook deze arbeiders moeten mee kunnen profiteren van de boom in AI, vindt ze.
Ander voorbeeld van datakolonialisme: de markt van diagnostische hulpmiddelen op basis van AI. De enorme ontwikkeling ervan is grotendeels aangezwengeld door privébedrijven, zoals Amazon en Google. Tegen 2028 zou de markt hiervoor tussen de 4 en 7 miljard dollar bedragen.
Maar het verzamelen van data is cruciaal en de toegang tot gevoelige medische informatie is streng gereguleerd. Maar met het sluiten van partnerschappen in armere regio’s lukt dat wel zonder al te veel gedoe. Zo is Google bijvoorbeeld een samenwerking aangegaan met Aravind Eye Hospital, de bekendste keten van goedkope ziekenhuizen in India.
Voor wie het kan betalen
Hierin wordt AI-software getest die slechtziendheid of blindheid vanwege diabetes (retinopathie) moet diagnosticeren. Een technologische toepassing die vooral zal worden uitgerold in de ziekenhuizen die het kunnen betalen. De data is dan wel geoogst van arme plattelandsbewoners, maar die zullen er zelf niet beter van worden.
Mensen zijn ‘datapoints’ voor deze bedrijven, meer niet. Maar Mugli ziet wel dat er steeds meer verzet komt tegen de techbedrijven. Zo besluit Armin Samii, de jongste zoon van Iraanse immigranten in de VS, de strijd aan te gaan met het algoritme van Uber Eats.
Al maakt fouten
Hij behoort tot het leger van meer dan een miljard mensen die voor algoritmes werken. Het zijn de mensen die boodschappen bezorgen, medicijnen, meubilair, mensen, boeken… in opdracht van een app. Het AI-systeem daarachter wijst koeriers klussen toe, betaalt dynamische vergoedingen, neemt mensen aan en ontslaat ze.
Samii heeft wekenlang geprobeerd om een mens aan de lijn te krijgen die de afwijkingen in zijn salaris kon verklaren. De app houdt namelijk geen rekening met het beklimmen van steile heuvels, hagelbuien of ongelukken die de snelste route versperren.
Het algoritme zegt dat bijvoorbeeld een rit 6 minuten duurt, Samii doet er in de praktijk 90 minuten over. Hij berekent ook dat hij 3,4 km heeft gefietst, maar het algoritme betaalt voor 1,8 km. Samii registreert dat allemaal in een spreadsheet.
UberCheats is succes
Deze koerier behoort namelijk niet tot de kwetsbare gig-workers die niets zeggen, omdat ze het werk niet kunnen missen. Hij is een computerwetenschapper, verdient goed in de techindustrie en maakt een zomer lang van UberEats gebruik om zijn woonplaats te leren kennen.
Samii wil iets doen tegen het machteloze gevoel dat hij krijgt van dat onvoorspelbare algoritme. Hij ontwikkelt een app, UberCheats, die berekent of de koeriers wel voldoende betaald krijgen.
Na een jaar haalt hij de succesvolle app offline, het is te veel werk om bij te houden. Hij vestigt met zijn app wereldwijd wel de aandacht op de ondoorzichtigheid van algoritmes en op het feit dat Uber geen verantwoordelijkheid hiervoor neemt.
Hoop voor de toekomst
AI-management staat niet open voor argumenten. En dat is frustrerend. Het neveneffect daarvan is dat het leidt tot verzet, meer samenwerking en meer autonomie. Dat er vakbonden voor flexwerkers worden opgericht. Dat er rechtszaken worden aangespannen en gewonnen.
Ook overheden proberen AI steeds meer te reguleren. Dat gebeurt allemaal nog veel te weinig, want AI-systemen zijn nog altijd ondoorgrondelijk en bevooroordeeld. Maar het zijn dit soort grote en kleine acties die Mugli hoop bieden voor de toekomst.
Ze wil met haar boek dat er meer bewust wordt nagedacht over de gevolgen en de impact van AI. Dat we, wanneer we eenmaal wakker geschud zijn en onze angsten opzij hebben gezet, ook ‘iets doen aan de ontstane machtsongelijkheid en het evenwicht herstellen’.
In de schaduw van AI: leven in een algoritmische tijd is geschreven door Madhumita Murgia. Het boek is onder meer te bestellen via managementboek.nl.
