AI-bedrijf Arize ontdekte dat het merendeel van de grootste Amerikaanse bedrijven AI als risico beschouwt. Sterker nog: in de jaarverslagen van Fortune 500-bedrijven wordt AI vaker als risico dan als kans benoemd. Die houding staat haaks op het Nederlands AI-enthousiasme. Wanneer volgt Nederland met een meer volwassen houding ten opzichte van kunstmatige intelligentie?
Risico’s van generatieve AI
Allereerst valt op hoe populair AI is en in welke fase van de AI-hype Amerikaanse bedrijven zich bevinden. Meer dan 60 procent van de grootste 500 bedrijven in de VS noemt AI in het meest recente jaarverslag, constateert Arize in hun rapport. Dat is drie keer vaker dan in 2022. Een op de vijf bedrijven heeft het zelfs expliciet over generatieve AI in het jaarverslag. Wie er nog over twijfelde: we bewegen ons inmiddels richting de piek van de AI-hype.
Lees ook: Met deze gids over artificial intelligence kun je meepraten met collega’s
Van de bedrijven die generatieve AI noemt in het jaarverslag, noemt twee derde de technologie een risicofactor. Dat is opvallend, want maar twintig procent benoemt de risico’s én kansen van generatieve AI. Slechts een kleine minderheid (8 procent) rept alleen over de ‘benefits’ van generatieve AI. Ook opvallend: meer dan de helft (56 procent) van alle 500 grootste Amerikaanse bedrijven noemt AI een risicofactor.
Contrast met Nederlands AI-enthousiasme
De manier waarop er bij grote Amerikaanse bedrijven gesproken wordt over AI, verschilt als dag en nacht met het sentiment dat in het Nederlands bedrijfsleven lijkt te heersen. Wie LinkedIn opent, corporate events bezoekt of simpelweg het internet afspeurt, wordt met AI-optimisme om de oren geslagen. Een greep uit een aantal headlines van afgelopen week:
- ‘Telers halen maximale uit de kas met kunstmatige intelligentie’
- ‘Kunstmatige Intelligentie doet wetenschappelijk onderzoek’
- ‘Optimisme over Kunstmatige Intelligentie (AI)’
- ‘ING: Groot potentieel voor AI in accountantsbranche’
Het is flauw om aan te halen dat de Duitse schrijver Heinrich Heine gezegd zou hebben dat als de wereld vergaat, hij naar Nederland zou verhuizen, omdat hier alles vijftig jaar later gebeurt. Toch is de vraag gerechtvaardigd: steekt het Nederlands AI-enthousiasme niet wat naïef af tegen de meer volwassen houding in de VS? Hoe ontwikkelen we in Nederland een volwassenere houding ten opzichte van AI? Wat kunnen we leren van de jaarverslagen van Fortune 500-bedrijven?
Lees ook: AI is een hype, dus doe er als bedrijf voorlopig maar niks mee
Waar maken Amerikaanse bedrijven zich zorgen om?
Amerikaanse bedrijven die AI als risico bestempelen, doen dat om uiteenlopende redenen. AI vormt een risico omdat het uitdagers in staat stelt een bestaande business te disrupten. Hoe ziet de toekomst van Netflix eruit als een concurrent dankzij AI razendsnel series en films kan produceren, tegen veel lagere kosten?
Andere bedrijven maken zich zorgen, omdat AI veiligheidsrisico’s oplevert. Het zou immers niet de eerste keer zijn dat een collega met ChatGPT aan de slag gaat, bedrijfsgeheimen met de tool deelt en deze op straat komen te liggen. Ook het delen van persoonsgegevens met AI-systemen die weinig ophebben met de privacy van gebruikers vormt een risico.
Daarnaast zijn er bedrijven die zich zorgen maken om de ethische consequenties van AI. Motorola meldt in diens jaarverslag dat AI-tools mogelijk niet altijd werken zoals bedoeld en dat datasets mogelijk onvoldoende, illegale, bevooroordeelde, schadelijke of aanstootgevende informatie bevatten. Dat kan een negatieve invloed hebben op de bedrijfsresultaten en/of de reputatie van het bedrijf. Salesforce maakt zich zorgen dat als het bedrijf oplossingen aanbiedt die controverse oproepen vanwege hun impact op mensenrechten, privacy of werkgelegenheid, dat het ze nieuwe wetgeving of reputatieschade oplevert.
Lees ook: Waarom AI-projecten floppen en hoe leiders dit kunnen voorkomen
AT&T vermeldt in het jaarverslag dat generatieve AI-modellen output kunnen produceren die onjuist is. Ze kunnen privé- of vertrouwelijke informatie vrijgeven, vooroordelen weerspiegelen die zijn opgenomen in de gegevens waarop ze zijn getraind, inbreuk maken op de intellectuele eigendomsrechten van anderen of anderszins schadelijk zijn. ‘Elk van deze risico’s kan ons blootstellen aan aansprakelijkheid of nadelige juridische of regelgevende gevolgen en kan onze reputatie en de publieke perceptie van ons bedrijf schaden.’
Wat kunnen we hiervan leren?
De reputatieschandalen van de komende jaren komen ongetwijfeld voort uit AI-modellen die niet functioneren zoals bedrijven willen of doordat werknemers er onvoorzichtig mee omgaan. Bedrijven maken zich nu al zorgen dat AI-modellen informatie bevatten die niet volledig, bevooroordeeld of onjuist is.
Dat hangt nauw samen met het gebrek aan transparantie waarmee grote AI-systemen op dit moment mee kampen. Het is onduidelijk met welke gegevens tools als ChatGPT getraind zijn. Het is dan ook niet verwonderlijk dat AT&T en Motorola zich zorgen maken over de output van AI-systemen; de input van de populaire AI-systemen is nog grotendeels onbekend. En elke techneut weet inmiddels wel: het is garbage in, garbage out.
Salesforce noemt expliciet de impact van AI op mensenrechten, privacy en werkgelegenheid. Het is een van de eerste keren dat het woord mensenrechten in een jaarverslag genoemd wordt in combinatie met AI, maar het is niet zonder reden. Techbedrijven die AI-modellen trainen blijken werkzaamheden aan werkers het mondiale zuiden uit te besteden, waarbij werk in erbarmelijke omstandigheden gebeurt en ook gebruikgemaakt wordt van kinderarbeid.
Lichtpuntjes
Het is cynisch om op te merken dat het risico van een reputatiecrisis de redding moet zijn van werkers in de AI-industrie. Toch is dat de silver lining: Fortune 500-bedrijven kunnen AI-producenten in beweging krijgen om ethischer beleid te voeren, omdat ze geen zin hebben in reputatieschade.
De vraag is wanneer Nederlandse bedrijven het voorbeeld volgen. Verruilen we, net als Fortune 500-bedrijven, AI-naïviteit voor AI-volwassenheid?
Lees ook ons interview met Aaron Mirck: ‘De maatschappelijke kosten van AI blijven buiten beeld’
