Wanneer mensen worden uitgesloten of gediscrimineerd, dan geven de betrapte organisaties snel de schuld aan AI. Ze zeggen sorry, beloven aanpassingen, zand erover. Het is een bekend patroon, maar eigenlijk missen ze een ‘unieke kans’, zegt Sennay Ghebreab.
Zo komen ze er nooit achter wat kunstmatige intelligentie hiermee zegt over hun organisatie. Wat ze hiervan kunnen leren. En hoe ze AI kunnen gebruiken om die discriminatie en uitsluiting te tackelen, vertelt de hoogleraar sociale intelligente AI aan UvA. ‘Wij maken AI volgens ons evenbeeld, dus wat zien we hier nou in?’
Sociaal intelligente AI
AI kan namelijk veel meer op een sociaal intelligente manier worden ingezet dan vandaag gebeurt. Ghebreab is daar al vijftien jaar lang een bekende pleitbezorger van, wereldwijd. Om bij de basis te beginnen, wat is sociaal intelligente AI eigenlijk?
‘Met sociaal intelligente AI willen we bijdragen aan: hoe breng je mensen meer bij elkaar, hoe ondersteun je en versterk je elkaar? Hoe kom je in connectie op een manier die zonder AI-technologie niet mogelijk was geweest? Het komt neer op het verbeteren van het gezond verstand en het algemeen belang’
Kun je een sterk voorbeeld geven van sociaal intelligente AI?
‘De algoritmische plaatsing van vluchtelingen. Ik haal dat voorbeeld telkens opnieuw aan, omdat het zo goed laat zien hoe maatschappelijk relevante oplossingen met AI onderbelicht en onderbenut blijven.’
‘De Zwitserse overheid heeft al in 2018 samen met Immigration Policy Lab en Stanford University een algoritme ontwikkeld voor het plaatsen van vluchtelingen. Bij aankomst in een land kunnen ze zo makkelijker het bedrijfsleven of het schoolleven in.’
‘Zo heeft ook de plek waar de vluchteling terechtkomt profijt van hun kennis en kunde. Eigenlijk een simpel matching algoritme, dat getraind is op data van de afgelopen decennia, dat getoetst is in Zwitserland en de VS.’
‘Als je vluchtelingen met behulp van dat algoritme plaatst, is de kans dat een vluchteling werk krijgt en bijdraagt aan de lokale maatschappij 40 tot 70 procent groter. Je zou denken, dat is eigenlijk ideaal, want iedereen heeft er profijt van.’
‘Ook voor Nederland is dit algoritme een oplossing. Ambtenaren hebben geen tijd om die matching te doen met individuele karakteristieken, zoals opleidingen en ervaring en dit op arbeidsmarkt, CBS-data en dergelijke te plakken.’
‘Ik weet dat de COA enige tijd geleden een pilot is gestart met dit algoritme. Die is om allerlei redenen vertraagd of zelfs stopgezet. Ook om een politieke reden vermoed ik. Dat systeem zou een aanzuigende werking kunnen hebben.’
‘Dit voorbeeld vertelt veel over onze samenleving. AI wordt sneller en vaker ingezet voor het opsporen van fraude en andere vormen van criminaliteit dan voor het versterken van de sociaaleconomische positie van mensen.’
Is dat dan asociaal intelligente AI?
‘Dat zijn AI-systemen die overheden en bedrijven gebruiken die mensen discrimineren en uitsluiten. Onder asociaal intelligente AI valt ook wat veel van die bigtech-bedrijven doen met sociale media, denk aan het aanjagen van polarisatie en extremisme. Dat is de andere kant van de medaille, de asociale kant.’
Lees ook: AI maakt je dommer, narcistischer, intoleranter en verslaafder
Voel je je soms niet een beetje Don Quichot die het opneemt tegen de grote jongens?
‘Nee, absoluut niet. Je Don Quichot laten voelen is vaak een expliciete tactiek van grote bedrijven om mensen juist erg passief te maken. Als techbedrijven te groot zijn om er iets aan te doen, dan gaan mensen verkrampen en juist meedoen in plaats van iets anders te ontwikkelen.’
Wat is dan je motivatie om er zo voor te gaan?
‘Een betere, meer inclusieve en open samenleving voor ons allemaal, voor mezelf en mijn kinderen. Ook zonder AI is er sprake van heel wat asociale kanten aan de maatschappij, aan bedrijven, aan praktijken van overheden. Dat is gewoon een gegeven.’
‘AI kan bijdragen aan het versterken daarvan. Maar AI kan ook worden geïnterpreteerd als een grote spiegel. Met AI kan namelijk expliciet worden gemaakt hoe wij met elkaar omgaan. Hoe bijvoorbeeld discriminatie plaatsvindt.’
‘Natuurlijk is het moeilijk om je eigen fouten toe te geven als individu of als organisatie. Daar is nog veel winst te behalen. Via data, cijfers en patronen kan AI helpen om deze fouten onder ogen te komen, en daar wat aan te doen. Denk aan de toeslagenaffaire of de praktijken van DUO.’
‘AI helpt ook de mensen die gediscrimineerd worden. Zij hoeven minder op te boksen tegen een alwetende en ontkennende autoriteit. Het is niet een onderbuikgevoel. Het zit in de data, in de systemen. Of het nu bewust of onbewust is gecreëerd, het is daar.’
‘Van die kant, bottom-up, is er best veel in beweging. Steeds meer mensen gaan ermee aan de slag om hun eigen positie te verbeteren. Dat is hoopgevend. Daarmee vormen ze ook een steeds sterker tegenwicht ten opzichte van de top-down aanpak van overheden en bedrijven.’
‘De afgelopen twee, drie, vier jaar is de bewustwording bij bedrijven en overheden over AI en de implicaties van AI wel sterk toegenomen. Maar daar is nog veel te winnen.’
Lees ook: Elk bedrijf wil wel iets met AI, maar weet alleen niet wat
Ondertussen dendert de AI-trein maar door, is er wel tijd en ruimte voor reflectie?
‘Niet per se. Laat die trein ook maar voort denderen, maar dan wel in de richting waarvan je weet dat AI weinig schade kan berokkenen. Blijf ontwikkelen op de terreinen waar AI mensen kan helpen en versterken en leer er al rijdend van.’
‘Doe dat niet waar AI toegepast wordt om mensen op te sporen en na te jagen, zoals bij fraudeopsporing vaak gebeurt. Daar moet je juist veel meer de rem erop gooien en vaker in de spiegel kijken.’
AI wordt te gevaarlijk, zegt zelfs een Elon Musk.
‘Die trein had dan tien, twintig of dertig jaar geleden al moeten worden afgeremd. AI nu proberen te stoppen, is een beetje hypocriet in mijn ogen. Ja, er is veel reflectie nodig. AI kan helpen bij die reflectie, maar zonder AI kunnen we er ook wat aan doen.’
‘Dus laten we daaraan werken en niet dat gevaar gebruiken als afleidingsmanoeuvre. Dat is namelijk iets wat bigtech wel vaker doet. Ondertussen gaan die bedrijven wel gewoon door met wat ze aan het doen zijn. De impact op de maatschappij meenemen in hun businessmodel is te complex, dat kost te veel tijd en energie.’
Lees ook: Zo trap je niet in AI-washing
Bigtech komt daar ook mee weg.
‘Ja, maar dat is ook een beetje eigen schuld. Overheden hebben te lang onderschat en genegeerd wat de kracht en impact is van AI. En dat geldt ook voor hoe grote techbedrijven ermee aan de haal zijn gegaan. Nu is er een grote inhaalslag nodig.’
‘Het belang van AI en ethiek is nu best wel aan het landen. Iedereen is ermee bezig, banken, gemeenten, ziekenhuizen, de politie. Maar of het de juiste manier is waarop men er mee bezig is, is een andere vraag. Nu zijn het buzzwoorden, en dat is een risico.’
‘Je moet je ermee bezighouden als organisatie, je moet zelfs medewerkers erin opleiden. Maar als je dan even wat verder kijkt, de diepte ingaat, wat wordt er dan eigenlijk mee gedaan? Hoe gaat dat precies in zijn werk? Dan zie je een grote lacune ontstaan.’
‘Ook de bigtech-bedrijven zeggen al sinds 2013: we realiseren ons dat ethiek belangrijk is, dat mensenrechten belangrijk zijn, enzovoort. Dus we beginnen een ethisch comité en we maken beleid. Elke twee jaar ligt er dan een nieuw beleid, maar dat is een beetje lippendienst.’
Hoe kom je van lippendienst naar doen?
‘Dat zal alleen gebeuren als de mensen op wie AI toegepast wordt, de burgers, de klanten, de patiënten echt gaan trekken en duwen. Daarom is AI-onderwijs zo belangrijk. Over vijftien jaar zullen er nog maar weinig jongeren zijn die niet weten hoe AI werkt.’
‘Zij kunnen dus ook daarop voortbouwen, kritische vragen stellen. Ze kunnen eisen van bedrijven en overheden om dingen aan te passen. Maar dat heeft wel tijd nodig.’
‘Laten we AI niet langer maken naar ons evenbeeld, maar laten we AI juist gebruiken om onze tekortkomingen te identificeren en daar oplossingen voor te laten ontwikkelen. Daarvan zullen velen misschien denken, dat is wishful thinking, dat is nog veel te ver weg.’
‘Ik denk dat het juist realistischer aan het worden is. Niet alleen in Nederland, maar wereldwijd ontstaan allerlei onderzoeksgroepen en initiatieven om AI op deze manier te gebruiken. Wat de positieve kracht van AI kan zijn, wordt dus wel degelijk gezien.’
Wat kunnen bedrijven ondertussen doen?
‘Goed beseffen dat discriminatie en uitsluiting starten bij de maatschappij. Wat die burgers, patiënten en klanten zeggen, is ontzettend belangrijk. Hun dagelijkse ervaringen in de samenleving met AI moet je blijven meenemen in het ontwikkelproces.’
‘Vraag continu feedback op alle stappen van het traject. Doen we het goed? Wie benadelen we, wie heeft er wel profijt van? Hoe kunnen we het anders doen? AI is nooit af, net zoals de maatschappij nooit af is. Blijf mensen erbij betrekken, vooral de mensen die zeggen benadeeld te worden. Ze serieus nemen, luisteren, ze meenemen in dat traject, dat is fundamenteel.’
‘Ik denk ook dat er te veel focus ligt op efficiëntie en effectiviteit. Je kunt met AI optimaliseren op kosten en tijd, maar je kunt met AI ook het welzijn van je mensen en je klanten optimaliseren. Focus daar wat meer op. Het is leuk om veel te verdienen, maar uiteindelijk gaat het om gezondheid, welzijn en waardig kunnen leven.’
Lees ook: Kan AI een bedrijf leiden? Dit denken drie experts
