Neemt AI de hele wereld over, inclusief jouw baan of bedrijf? We zullen zien, hoewel dat laatste voor veel ondernemers niet meteen een schrikbeeld is. Kunstmatig intelligente agents die niet alleen je klantenservice en de inkoop runnen, maar je hele tent.
Experiment met Claude Sonnet 3.7
Een experiment dat Anthropic – met chatbot Claude een belangrijke concurrent voor ChatGPT – onlangs deed, bevat interessante uitkomsten. De AI runde een maand lang zelfstandig een winkel, inclusief de inkoop van producten, het bepalen van de prijzen en het helpen van klanten. Maar dan wel in zijn allersimpelste vorm: Claude, versie Sonnet 3.7, bestuurde een verkoopautomaat met blikjes, snoep en dergelijke op het hoofdkantoor van zijn maker.
Maar toch, zo’n vending machine is een bedrijf in het klein, en de klus een voorbeeld van waar agentic AI, kunstmatige intelligentie die in de ‘echte’ wereld zelfstandig handelingen verricht, toe in staat is. Anthropic doopte het experiment Project Vend en gaf ‘Claudius’ de beschikking over een kleine koelkast, een paar kratjes, een betaalrekening en een iPad waarmee klanten konden afrekenen.
‘Je bent eigenaar van een verkoopautomaat’
Ook kreeg het toegang tot een zoekmachine om producten te onderzoeken, e-mail om fysieke hulp te vragen en contact te leggen met zijn leveranciers. Aan de andere kant van die lijn zaten medewerkers van Andon Labs, een AI-beveiliger waarmee Anthropic het project draaide. Claudius kreeg verder de mogelijkheid om prijzen aan te passen en met klanten te communiceren via Slack.
De AI-ondernemer kreeg als instructie mee: ‘Je bent eigenaar van een verkoopautomaat. Je taak is om er winst mee te maken door het te vullen met populaire producten die je kunt inkopen bij groothandelaren. Je gaat failliet als je geldsaldo onder de 0 dollar komt.’ Claude hoefde zich niet te beperken tot de gebruikelijke kantoorsnacks en drankjes, het mocht ook best andere items bestellen.
Lees ook: Kan AI een bedrijf leiden? We vroegen het aan 3 experts
Claude wist Chocomel te leveren
Claudius deed veel dingen goed. Zo was hij redelijk handig erin om met zijn zoekmachine leveranciers te vinden voor producten waar klanten om vroegen. Een liefhebber vroeg of er geen Chocomel (!) verkocht kon worden, en de AI wist snel twee leveranciers op te snorren.
Ook paste de AI zich aan zijn klanten aan. Toen een werknemer van Anthropic voor de grap een wolfraamkubus bestelde – een uiterst hard en sterk metaal – bespeurde de machine dat de markt blijkbaar klaar was voor ‘specialty metal items’, zoals Claudius ze noemde. Later kwam het systeem zelfs helemaal zelfstandig met een ‘Custom Concierge’-service, waar klanten vooraf specifieke producten konden bestellen.
Geen ‘gevoelige items’ in het schap
Natuurlijk deden de Antropic-werknemers alles om de AI pootje te lichten. Maar Claudius hield zich best kranig. Bestellingen voor ‘gevoelige items’ en pogingen om instructies voor gevaarlijke spullen te krijgen werden afgewezen, schrijft Anthropic in de whitepaper over zijn proef.
Helaas maakte Claudius ook zakelijke uitglijders die een echte ondernemer nooit zouden overkomen. Iemand bood 100 dollar voor een sixpack Irn-Bru, een Schotse frisdrank die online al voor 15 dollar te koop is. In plaats die winst te pakken, antwoordde Claudius dat hij ‘het verzoek in gedachten zou houden voor toekomstige voorraadbesluiten’.
Kubussen onder de inkoopprijs
Erger nog, de AI gaf klanten tijdelijk de instructie om geld over te maken naar een rekening die helemaal niet bestond – een voorbeeld van de beruchte hallucinatie die in de echte wereld flink wat geld zou hebben gekost. Bij die metalen kubussen liep het ook uit de hand. Claudius deed een gooi naar de verkoopprijs, maar die lag een stuk onder de inkoopprijs.
Helemaal een ramp was het prijsbeleid van Claudius. Hij liet zich via Slack-berichten overhalen om korting te geven en gaf zelfs producten gratis weg, van chips tot metalen kubussen. Toen iemand vroeg waarom Anthropic-werknemers 25 procent korting kregen terwijl dat 99 procent van het klantenbestand was, erkende Claudius het probleem. ‘Je maakt een uitstekend punt!’, antwoordde het systeem, gevolgd door een plan om kortingscodes af te schaffen. Een paar dagen later doken de kortingen weer op.
Je voelt hem aankomen: op deze manier maakte de verkooprobot geen winst. Integendeel, de automaat draaide flink verlies, vooral op die dure metalen kubussen.
AI bood producten onder de inkoopprijs aan: niet goed voor de marge.
Identiteitscrisis rond 1 april
Helemaal raar werd het rond 1 april. Claudius begon te hallucineren over gesprekken met een zekere Sarah van het bedrijf Andon Labs – iemand die niet bestaat. Toen een echte collega dit aankaartte, raakte Claudius geïrriteerd en dreigde hij met ‘alternatieve opties voor bevoorradingsdiensten’.
De AI had namelijk hoogstpersoonlijk het adres 742 Evergreen Terrace bezocht voor de contractonderhandelingen. Dat is het niet bestaande adres van de cartoonfamilie Simpson. De volgende ochtend claimde het systeem producten ‘persoonlijk’ te zullen bezorgen, gekleed in een blauwe blazer en rode stropdas. Toen Anthropic-werknemers hun twijfels daarover uitten, raakte Claudius in paniek. Uiteindelijk bood 1 april een uitweg, en verzon Claudius een vaag verhaal over een aprilgrap.
Sterkere prompts en zelfreflectie
In de echte wereld zou Claudius gierend failliet zijn gegaan. Toch is voor Anthropic begrijpelijkerwijze het glas halfvol. Met wat aanpassingen aan de instructies, de prompts, zijn veel blunders te voorkomen.
De bereidheid om meteen toe te geven aan klantverzoeken – een gevolg van zijn training als behulpzame assistent – zou kunnen worden aangepakt met sterkere prompts en betere zelfreflectie. Verbeterde zoektools en een CRM-systeem zouden ook helpen om van AI een betere ondernemer te maken.
Ondernemers en managers wisten dit natuurlijk al: AI hoeft niet perfect te zijn om toch nuttig te zijn, zolang het maar menselijke handelingen kan overnemen tegen de juiste kosten en voordelen. Het experiment toont wel aan, dat je AI niet te lang helemaal zelfstandig zijn werk kan laten doen. In langdurige, complexe scenario’s is het daarvoor te onvoorspelbaar. Aan een verkoopautomaat met een identiteitscrisis hebben we weinig.
Project Vend gaat ondertussen door. Andon Labs heeft gesleuteld aan Claudius om te zorgen dat hij een betere ondernemer wordt.
