Tech-filosoof Aaron Mirck wordt ‘een beetje verdrietig’ van wat hij allemaal hoort en leest over kunstmatige intelligentie (AI). Ja, het is een hype, maar de onderwerpen waar het over zou moeten gaan, komen amper aan bod.
‘Iedereen die ChatGPT langer dan een kwartiertje heeft gebruikt, is al een AI-goeroe’, zegt hij tegen MT/Sprout. ‘Er wordt zoveel onzin verteld. Het publiek verdient wel iets beter dan de lariekoek die nu voorbijkomt.’
Met zijn nieuwe boek AI, voorbij de hype dat op 30 mei uitkomt, snijdt hij de onderwerpen aan waar veel te weinig aandacht voor is. De klimaatimpact van AI, het gebruik van goedkope (kinder)arbeid, de verspreiding van nepnieuws, de inbreuken op auteursrecht en privacy, somt hij op.
Het gevaar van AI is nu
Technologie is al evenmin neutraal. ‘Als vrouw krijg je gewoon andere banen met minder hoge salarissen te zien op LinkedIn. Dan heb je het dus over discriminatie en het schenden van mensenrechten. Al dit soort maatschappelijke kosten van AI blijven buiten beeld.’
Waar er wel aandacht voor is: de toekomstige risico’s van AI. Dat is tijdverspilling, vindt hij. ‘Het gaat vaak over twee scenario’s: we worden allemaal werkeloos of we gaan allemaal dood. Maar dat is niet zo, dat is echt sciencefiction volgens de mensen die het kunnen weten.’
Veel belangrijker is het om vandaag al de vraag te stellen of het gebruik van AI nodig, ethisch, nuttig of zinnig is. En die wordt te weinig gesteld, is zijn ervaring. Het probleem is namelijk dat alle bedrijven denken ‘dat ze de boot gaan missen’.
Lees ook: AI is een hype, dus doe er als bedrijf voorlopig maar niks mee
AI is een tool, geen doel
Hij ziet in de praktijk overal AI-FOMO (Fear of Missing Out). ‘Het narratief in het bedrijfsleven is dat ze iets met nieuwe technologie moeten, omdat ze anders failliet gaan.’ Iedereen kent het verhaal van Nokia, zegt hij. Eerst een grote speler in tech, vandaag ‘zo goed als betekenisloos’.
‘Elke bedrijfsleider die ik spreek voor een lezing, zegt dat ze iets met AI willen. Dat is prima, reageer ik dan, maar dat is eigenlijk het domste dat je kunt zeggen. Je hebt een probleem of een uitdaging en daar zoek je een oplossing voor.’
De beste oplossing is misschien niet een AI-toepassing. Maar daar zijn ze in boardrooms vandaag de dag blind voor, merkt hij. AI is een doel geworden, geen tool. AI biedt de zaligmakende oplossing voor alles.
Vooral kosten besparen
‘Je ziet dat AI andere oplossingen die goedkoper zijn, ethischer, of zelfs beter gewoon overschaduwt. AI presteert niet altijd beter dan een mens. Daar mogen bedrijven wel bewuster van worden.’
‘Je kunt je videootjes automatisch laten ondertitelen door AI, maar die ondertiteling is dan wel een stuk minder goed. Kijk maar naar de ondertiteling bij Netflix. Dat is een afweging die je maakt. Accepteer je mindere kwaliteit, omdat je door automatisering minder geld hoeft te betalen.’
Lees ook: 13 dingen die AI niet kan
Veel bedrijfsleiders zien AI als dé manier om in de kosten te snijden, vooral in die van werknemers. Maar er is een slimmere manier om met AI om te gaan, zegt Mirck. ‘Je kunt AI gebruiken als middel om nieuwe dingen te doen, om nieuwe mogelijkheden te creëren, of om dingen te doen die mensen eerst niet konden doen.’
‘Dan kijk je op een andere manier naar werk. Namelijk als iets dat nodig is. En ga je ook op een andere manier om met AI. Dan geef je namelijk de mensen die het werk doen een rol in de vraag: wat gaan we doen? Wat er nu fout gaat, is dat AI een beetje top-down wordt neergelegd.’
Perverse prikkels
Die bedrijfsleiders realiseren zich ook niet welke ‘perverse prikkels’ het gebruik van AI op de werkvloer kan hebben. Bij het meten en controleren van prestaties ‘gaan mensen langer over hun werk doen, omdat ze zo gespannen zijn of ze het wel goed doen. Of ze durven niet meer de dingen te doen die ze vroeger deden.’
Het gebruik van AI om vergaderingen te notuleren, is best handig, maar besef dan wel dat ‘er mensen zijn die minder vaak durven te zeggen wat ze denken, omdat alles in geschreven vorm terug te vinden is. Dat zijn de onbedoelde bijeffecten waar leiders helemaal niet bij stilstaan.’
‘Technologie is nooit neutraal en heeft altijd een consequentie of een gevolg voor je organisatie. En daar moet veel meer over worden nagedacht.’
Zo richt AI nu al schade aan
- Generatieve AI-tools zijn zo overtuigend in desinformatie dat we het onderscheid niet meer kunnen maken tussen menselijke en kunstmatige berichtgeving.
- ChatGPT is getraind met data waar niet voor betaald is. Dat is diefstal, al vertrouwen techbedrijven erop dat rechtszaken hierover in hun voordeel zullen uitvallen.
- OpenAI, Google, Meta en Microsoft werken met het Keniaanse Sana waar mensen – geen algoritmes – de meest afschuwelijke content uit socialmediaposts filteren.
- Kolotibablo is een platform waar ook minderjarigen gewelddadige content labelen.
- Voor het trainen van GPT-3 is zo’n 700.000 liter schoon drinkwater gebruikt.
- Elke vraag aan ChatGPT levert evenveel CO2-uitstoot op als de productie van een plastic tas.
- X (ex-Twitter) haalt informatie uit meer dan dertigduizend gratis apps, waaronder menstruatieapps, en deelt op basis daarvan zijn gebruikers in.
- Leveren we onze smartphone in of hebben we liever nooit meer seks? Een op de drie Nederlanders kiest voor het stoppen met seks.
Bron: AI, voorbij de hype
Verlies van autonomie
Hoe afhankelijker we worden van technologie, hoe meer autonomie we verliezen, waarschuwt Mirck. Onze ‘cognitieve uitbesteding’ is al volop aan de gang. ‘Als jij werknemers hebt die alleen maar hun teksten laten schrijven door AI, dan is het risico dat ze na verloop van tijd zelf geen woord meer op papier krijgen.’
Lees ook: Kan AI een bedrijf leiden? We vroegen het aan 3 experts
Een prompt is een opdracht voor een computer, maar taal is veel meer dan een instrument om opdrachten te formuleren. ‘Schrijven is ook voor een deel kritisch nadenken. Dat lijkt me nou echt iets wat heel fijn is als jouw werknemers daar goed in zijn.’
‘Hoe minder goed je werknemers kritisch kunnen nadenken, hoe dommer jouw organisatie wordt. Dan leef je uiteindelijk in een wereld met allemaal slimme technologie en domme mensen.’
Denk aan alternatieven
Mirck benadrukt dat hij niet tegen AI is, integendeel. ‘Maar in deze fase van ontwikkeling moeten we wel met elkaar het gesprek daarover hebben. Gaan we AI voor alles gebruiken, of is het misschien tijd voor andere toepassingen en alternatieve tools?’
‘Wil je bijvoorbeeld echt AI je mails laten managen, of spreek je met elkaar af dat je je mailbox wat vaker met rust laat. En daarbij ook op welke termijn mails beantwoord moeten worden. Met gedragsverandering boek je misschien nog wel meer winst. Maar dat is natuurlijk minder sexy dan een nieuwe app.’
AI, voorbij de hype: Ontdek hoe het echt zit met kunstmatige intelligentie is geschreven door Aaron Mirck. Het boek is onder meer te bestellen via managementboek.nl.
.
.
