Winkelmand

Geen producten in je winkelwagen.

Wat AI niet kan

Sam Altman zei het eind 2022 al bij de introductie van ChatGPT. De ceo van OpenAI tweette dat zijn product 'erg beperkt' is en alleen 'good enough at some things to create a misleading impression of greatness'. Daarom: 13 dingen die AI níet kan.

ai kunstmatige intelligentie tekortkomingen
Foto: Getty Images

Heb je ooit eerder een ceo over zijn eigen product horen zeggen dat het vooral goed is in faken? Anderhalf jaar later weten we iets meer over wat generatieve AI kan. En vooral ook: wat niet. Wat zoal?

1. Grappen maken

Met stip op één in deze ranglijst. Gevoel voor humor blijkt ver te zoeken als je vraagt om een gepast grapje voor een inleiding op een conferentie of een smakelijke anekdote voor een artikel. De output is zouteloos en slaat de plank meestal mis, ook als je blijft doorvragen en meer context geeft in je prompts. Het is het allemaal net niet. En bij humor is dat funest. Een cabaretier die het net niet heeft, beleeft een zeer pijnlijke avond in het theater.

2. Samenvatten

Meestal gaat het samenvatten van een rapport vrij goed. Generatieve AI gaat min of meer net als een mens met een gele stift door een stuk heen. Maar soms mist het daarbij juist de essentie. Uit een persbericht over de kwartaalcijfers worden dan bijvoorbeeld wel keurig de kerncijfers gedestilleerd, maar niet de oorzaken voor de forse winstval. Hoe relevant is zo’n samenvatting dan?

3. Kwaliteit garanderen

Soms verzinnen de modellen er stevig op los. In vakjargon wordt dat ‘hallucineren’ genoemd. En dat is eigenlijk best gek, want dat klinkt als een menselijke eigenschap. In de Verenigde Staten gebruikte een advocaat ChatGPT voor het schrijven van een pleidooi in een rechtszaak. Zijn argumenten leken gebaseerd op eerdere rechterlijke uitspraken, maar die waren alle verzonnen. De rechter vond dat niet leuk.

4. Omgaan met uitzonderingen

De I in AI is (vooralsnog) eigenlijk wat misleidend, want in essentie draait het bij generatieve AI niet om intelligentie, maar om statistiek. Precies daarom zijn de modellen ook (verbluffend) goed voor vraagstukken over situaties of mensen die vaak voorkomen: daarover zijn veel data beschikbaar om het model te voeden. Maar ze zijn veel minder goed als het gaat om meer zeldzame vraagstukken.

Lees ook: AI is een hype, dus doe er als bedrijf voorlopig maar niks mee

5. Uitleggen wat het doet

Een van de uitgangspunten in Europese wetgeving is explainable AI: een model moet kunnen uitleggen hoe het beslissingen neemt. Het probleem van ChatGPT is echter dat het beslissingen neemt in een black box. Iets wat op gespannen voet staat met die uitlegbaarheid. Een nuancering daarbij: ook het menselijk brein is eigenlijk een black box – van een agent weten we ook niet waarom die op een bepaald moment besluit in te grijpen en of dat iets met huidskleur van doen heeft.

6. Een geheim bewaren

Als je het model voedt met jouw vragen, jouw data of jouw beeldmateriaal, maakt het model daar dankbaar gebruik van om zichzelf te trainen. Dat is belangrijk om te weten in situaties waar privacy of geheimhouding van belang zijn. Een uitzondering hierop vormen de corporate toepassingen, waar het model ‘on premise’ draait en geen data deelt buiten de eigen organisatie.

7. Standvastig zijn

Na de eerste lancering deed een grappige prompt de ronde waarin ChatGPT – na een paar keer aandringen – toegaf dat 2 + 2 geen 4, maar 5 is, omdat de gebruiker stelde dat zijn vrouw toch echt zeker wist dat het 5 was. Zo’n zwakke ruggengraat behoort nu tot het verleden – de modellen worden beter – maar nog steeds kan een slimme gebruiker het model dingen laten doen die het eigenlijk niet mag.

Stel dat je de receptuur vraagt voor een bom op basis van kunstmest, dan zul je dat niet krijgen, omdat dat tegen de ethische richtlijnen ingaat. Maar als je uitlegt dat je het nodig hebt voor een studie naar het gebruik van kunstmest, dan krijg je het misschien wel voor elkaar.

dx300 2024 cover

DX300 van 2024

MT/Sprout onthulde in april de DX300 van 2024. In dit jaarlijkse onderzoek peilen we de stand van de digitale transformatie in Nederland. Welke bedrijven en organisaties lopen voorop? En welke dienstverleners maken dit mogelijk? Bekijk de DX300 van 2024 »

8. Origineel zijn

Generatieve AI kan muzieknummers schrijven die de hitlijsten bestormen. Opnieuw: vaak verbluffend goed. Maar generatieve AI zou waarschijnlijk nooit het eclectische en eigenzinnige werk van artiesten als Prince of David Bowie hebben verzonnen, omdat het vooral de mainstream kopieert. Anderzijds: de meeste mensen zijn ook vooral goed in kopiëren van bestaand werk. Vaak onbewust en niet alleen in de muziek, maar ook in de wetenschap. ‘We’re standing on the shoulders of giants’, zei Isaac Newton al.

9. Empathie tonen

Hier is de in de intro genoemde tweet van Sam Altman misschien nog wel het meest spot on: generatieve AI wordt steeds beter in doen alsof het empathisch is. Er zijn bijvoorbeeld bedrijven die met AI helpen om de toonzetting van gesprekken in callcenters te verbeteren. Maar het blijft per definitie een kwestie van doen alsof. Denken dat een machine empathie heeft, leidt vroeg of laat tot teleurstellingen, zie ook de film Her van Spike Jonze. Een machine is geen mens. En wordt het ook nooit.

10. Een huis bouwen

Beetje flauw misschien, maar in een tijd waarin het lijkt of AI de hele wereld aankan, is het ook goed te beseffen dat veel fysiek werk niet zo eenvoudig is over te nemen door een machine. Een keuken installeren in een ruimte waar de wanden wat scheef staan? Een badkamerkraan monteren in een krappe ruimte? Een robot staat machteloos.

Lees ook: Nederlandse metselrobot gaat met 25 miljoen funding het tekort aan metselaars oplossen

11. Lekker koken

Ook een beetje flauw. Een op AI gebaseerde app van een Nieuw-Zeelandse supermarkt wilde afgelopen zomer consumenten adviezen geven hoe je overgebleven restjes een tweede leven geeft. De recepten bleken nogal innovatief. De toppers: gebakken aardappelen met antimuggenspray en wentelteefjes met terpentijnsmaak.

12. Morele intuïtie

Ethiek is een belangrijk onderwerp voor de ontwikkelaars van AI en ze doen van alles om ethische vangrails in te bouwen. Maar daarbij blijft het gaan om het volgen van regels en niet, zoals mensen doen, het begrijpen van de complexiteit van morele waarden.

13. Zelfmotivatie

AI handelt op basis van instructies. Het mist intrinsieke motivatie, verlangens of de drang om onafhankelijk doelen na te streven. Een mens kan echt zin hebben om iets geweldigs te doen in een random act of kindness. Een AI-model doet gewoon zijn ding.

Lees ook: Kan AI een bedrijf leiden? We vroegen het aan 3 experts