UvA-hoogleraar De Rijke: ‘AI heeft een groot risico van middelmatigheid’

Het is niet zo moeilijk om weg te dromen bij het veelbelovende toekomstige potentieel van AI. De grote rekenkracht was eerder al nuttig
bij het ontleden van de DNA-structuur van het coronavirus om er – veel sneller dan normaal – een effectief vaccin tegen te maken.

Dergelijke rekenkracht biedt in de medische wereld een scala aan kansen om medicijnen of behandelmethoden te ontwikkelen, maar bijvoorbeeld ook bij de ontwikkeling van agrarische gewassen die beter tegen klimaatextremen bestand zijn.

Of denk aan de vleesgeworden droom van menig trendwatcher: de ijskast die alvast een bestelling naar de supermarkt stuurt voordat je zelf realiseert dat dit nodig is. Die droom bestaat overigens al een tijdje. Het is inmiddels al meer dan tien jaar geleden dat Amazon een patent aanvroeg op zogeheten anticipatory shipping.

Kleinere rol voor de mens

Maarten de Rijke moet wat glimlachen bij de inleiding over die kansen. Natuurlijk, ook hij ziet die kansen wel. Niet alleen door de grote rekenkracht, maar ook doordat er steeds meer databronnen beschikbaar zijn in een digitale wereld. Als een echte wetenschapper houdt de hoogleraar Artificial Intelligence & Information Retrieval het echter graag bij een genuanceerde kijk op de feiten.

Hij tekent direct een model op het whiteboard in zijn kantoor op het Amsterdamse Science Park om duidelijk te maken hoe information retrieval werkt en hoe dat model wordt beïnvloed door de komst van (generatieve) AI.

De essentie: de mens speelt steeds minder een rol in het proces van information retrieval. Kregen we vroeger na een vraag een lijst met zoekresultaten, nu krijgen we vaker direct een antwoord. En als we dat willen zelfs een compleet document bestaande uit tekst, grafieken en plaatjes.

Alles lijkt steeds meer op elkaar

Dat is mooi. Maar dat heeft volgens De Rijke, zoals vrijwel elke technologische vooruitgang, ook risico’s. ‘AI zorgt ervoor dat de frictie afneemt. Zo’n beetje alles wat we doen wordt eenvoudiger en dat maakt dat we als mens ook een steeds passievere rol krijgen.’

En dat is niet alleen maar goed nieuws. De Rijke: ‘Het is mooi uit te leggen aan de hand van Spotify. Een AI-model kan op basis van je profiel prima voorspellen welke nummers je waarschijnlijk ook leuk zult vinden en dat aan je voorschotelen. Maar het risico daarvan is dat al je muziek dan wel op elkaar gaat lijken.’

Er zijn ook al voorbeelden waar AI prima in staat blijkt muzieknummers in elkaar te knutselen die het goed doen in de hitlijsten.
‘En dat heeft eigenlijk hetzelfde risico van middelmatigheid. AI baseert zich op bestaande data, terwijl menselijke artiesten nog weleens nieuwe en gedurfde artistieke wegen inslaan en zich daarmee minder op bestaande data baseren.’

Hoe voorkomen we dat we straks zwemmen in een oceaan van middelmatigheid?
‘Maatschappelijk willen we dat natuurlijk niet. Maar het is ook in het belang van Spotify zelf om dat scenario te vermijden. Op korte termijn kan AI prima de snelle snacks bieden om de honger naar nieuwe muziek te stillen. Maar op langere termijn is er ook een verantwoordelijkheid om het muzikale ecosysteem divers en gezond te houden.’

‘We moeten dus zowel oog hebben voor de korte als de lange termijn en dat geldt eigenlijk voor heel veel andere partijen en sectoren. Denk ook aan die slimme ijskast. Op korte termijn is het natuurlijk prachtig als die op een slimme manier met de kruidenier is verbonden. Waarschijnlijk hoef je dan minder vaak iets weg te gooien en zorgt AI ervoor dat je altijd voldoende spullen in huis hebt voor een van je favoriete maaltijden. Maar op lange termijn kan dat leiden tot passiviteit. Je probeert misschien nooit meer iets nieuws. Je denkt niet meer na of je voedingspatroon gezond is. En geniet je nog wel echt? Die lange termijn verdient ook aandacht.’

Lees ook: 13 dingen die AI niet kan

Dat klinkt al met al niet erg hoopgevend.
‘Ik zie de voordelen van AI echt wel. Op tal van gebieden. Er ontstaat een heel nieuwe mogelijkheid om op zoek te gaan naar nieuwe moleculaire structuren. Dat kan bijvoorbeeld leiden tot gewassen die beter met klimaatextremen kunnen omgaan of die minder druk op het milieu geven.

‘Een ander voorbeeld is dat we de rekenkracht van AI kunnen inzetten om containerstromen in grote havens of koeriersdiensten in dichtbevolkte steden veel efficiënter te regelen zodra de data van verschillende partijen goed aan elkaar worden geknoopt.’

‘Of denk aan vraagstukken rond de inrichting van ons landschap, met functies als wonen, recreëren, land- bouw en natuur. Dat is een optimaliseringsvraagstuk waarin je beslissingen moet nemen op basis van honderden onzekere factoren.

‘Mensen kunnen die beslissingen prima nemen als het om een paar factoren gaat, AI kan te hulp schieten als het om honderden factoren gaat. Op dergelijke terreinen moeten we heel ambitieus zijn en volop de mogelijkheden van AI omarmen. Maar we moeten ook oog houden voor de langetermijneffecten en dus in kleine stappen exploreren.’

Dat is een wereld van verschil met het tempo van modellen zoals ChatGPT. Daar gaan we juist met zevenmijlslaarzen vooruit.
‘En dat vind ik heel gek. Hoe haal je het in je hoofd om zo met mensen te experimenteren? ChatGPT is een niet goedgekeurd experiment met honderden miljoenen mensen. In de medische wereld zouden we voor zoiets strenge protocollen toepassen. Hier laten we het ongecontroleerd losgaan en zien we wel wat er gebeurt.’

Lees ook: ChatGPT op het werk verbieden heeft geen zin, opvoeden is noodzaak

De positieve kant van de hype is in elk geval dat er meer aandacht voor AI is gekomen. Draagt dat bij aan de ontwikkeling, ook in wetenschappelijke zin?
‘Wat ik vooral zie is dat de samenwerking tussen wetenschap, bedrijfsleven en overheid de afgelopen jaren een flinke impuls heeft gekregen. Dat is heel waardevol. In living labs werken onze promovendi samen met marktpartijen aan diverse onderzoeksagenda’s. Daarvan zijn er inmiddels maar liefst 51.’

‘We zien ook dat overheidspartijen zichzelf digitaal naar een hoger plan willen tillen. Ze willen hun eigen werk beter doen met behulp van AI. Dat is een mooie ‘bijvangst’ van de hype rondom AI. De volgende stap waar ze nu voor staan is om niet alleen consultants in te huren om hen daarbij te helpen, maar ook echt eigenaarschap te nemen en kennis op te bouwen.’

Dat zal niet eenvoudig zijn in een krappe arbeidsmarkt waar mensen met die kennis zeer gewild zijn?
‘Klopt. Tegelijkertijd heeft de krapte op de arbeidsmarkt ook weer een ander effect: in de zorg en onderwijs lopen we tegen grote capaciteitsproblemen op. AI kan dat voor een deel helpen oplossen. In die zin prikkelen de tekorten de creativiteit om oplossingen te bedenken.’

Lees ook deze artikelen over kunstmatige intelligentie:

• AI is een hype, dus doe er als bedrijf voorlopig maar niks mee
• Test bewijst: algoritme kan beter kandidaten selecteren dan hr-professionals
• Bedrijven zijn nog niet klaar voor dit leger aan nieuwe klanten: machines

Dit artikel is geschreven door

Nart Wielaard

Nart Wielaard is zelfstandig schrijver en adviseur op het snijvlak van technologie, maatschappij en bedrijfsleven.