Vertraag het tempo van AI-ontwikkelingen of las zelfs een wereldwijde pauze in. Daartoe roepen leiders van Anthropic in een artikel op de eigen website op. Volgens medeoprichter Jack Clark en Marina Favaro, hoofd van het interne onderzoeksinstituut, nadert AI het punt van ‘recursieve zelfverbetering’. Dat wil zeggen: het moment dat AI-systemen autonoom hun eigen opvolgers kunnen ontwerpen, zonder menselijke tussenkomst.
Zover is het nog niet, maar het is niet ver weg. Bij Anthropic schrijven AI-modellen inmiddels meer dan 80 procent van de code, blijkt uit cijfers die het bedrijf vrijgeeft. De complexiteit van taken die AI autonoom kan uitvoeren, verdubbelt momenteel elke vier maanden. ‘Als deze trend doorzet, kunnen AI-systemen in 2027 taken uitvoeren waar een bekwaam mens weken over doet.’
Dat kan volgens Clark en Favaro een enorme doorbraak zijn in de snelheid waarin vooruitgang wordt geboekt in wetenschap, gezondheidszorg en andere domeinen. Maar het risico is ook dat mensen de controle over de systemen verliezen.
Wordt science-fiction werkelijkheid?
Anthropic-ceo Dario Amodei waarschuwt hier eveneens al jaren voor. In een begin dit jaar gepubliceerd essay sprak hij zijn vrees uit dat AI onvoorspelbare en destructieve neigingen gaat ontwikkelen. Systemen die getraind zijn met science fiction-verhalen over AI-opstanden, zouden dat narratief over kunnen nemen en zomaar zelf in opstand kunnen komen.
Geavanceerde AI is straks in tal van sectoren in staat om autonoom en continu dingen te maken, variërend van video’s tot wapensystemen. Als die genieën ontsporen, is het ‘game over’ voor de mensheid, schrijft hij. Maar ook gestoorde eenlingen krijgen dankzij AI de capaciteiten van ‘een viroloog met een doctoraat’.
Met die kennis kunnen ze miljoenen mensen omleggen, vreest Amodei. ‘En in het ergste geval al het leven op aarde vernietigen.’
Amodei was deze week ook een van de ondertekenaars van een brief aan het Amerikaanse Congres. Daarin pleit hij met andere AI-bonzen als Sam Altman (OpenAI) en Demis Hassabis (Google Deepmind) voor strengere veiligheidsmaatregelen voor leveranciers van biomoleculen, nu het door de opkomst van AI steeds makkelijker wordt om biologische wapens te gaan ontwikkelen. Veel bedrijven screenen hun klanten al vrijwillig, maar Amodei en co willen dat dit wettelijk verplicht wordt.
Op de proef gesteld
De Anthropic-ceo gelooft dat er inmiddels een ‘overgangsrite’ is aangebroken. Die is turbulent, onvermijdelijk en zal ‘ons als soort op de proef stellen’. De technologische ontwikkelingen gaan volgens collega’s Clark en Favaro sneller dan sociale, politieke en juridische systemen kunnen bijbenen.
Een vertraging of pauze zou de wereld tijd geven om maatschappelijke structuren voor te bereiden op de enorme veranderingen, onderzoek naar de veiligheid en waarden van AI de kans geven om in te lopen en de enorme economische disruptie kunnen opvangen, menen zij. Zoals het verdwijnen van mogelijk de helft van de kantoorbanen.
Dat moet worden vastgelegd in een wereldwijd akkoord. Anthropic wil best zelf op de rem trappen, maar als andere partijen het niet ook doen, heeft het weinig zin.
Lees ook: AI ziet zak chips aan voor AI en 6 andere megablunders
Groter podium
Ceo Amodei trok voor het eerst aan de bel toen hij nog bij Google werkte: in 2016 schreef hij al mee aan een artikel over onveilige AI. Alleen bleef hij daar slechts tien maanden werken, te kort om impact te maken met zijn boodschap.
Als vice-president research bij OpenAI clashte hij erover met Sam Altman en Elon Musk, maar die nemen hem niet echt serieus. Dankzij Anthropic, dat als dé uitdager van OpenAI en Google wordt beschouwd, heeft hij nu een veel groter podium. Er wordt naar hem geluisterd, al is het nog de vraag of zijn boodschap nu wel echt gehoord wordt.
Want ondertussen bouwt hij zelf volop mee aan het gevaar waarvoor hij waarschuwt. Amodei is volgens Forbes 15,5 miljard dollar waard, en Anthropic bijna 1.000 miljard dollar, na een recente financieringsronde van 65 miljard dollar. Het bedrijf diende recent de benodigde documenten voor de geplande beursgang in 2026, en is in een felle strijd verwikkeld met OpenAI wie de eerste en meest waardevolle wordt.
Man met een missie
Waar maakt die man zich nou eigenlijk druk over, kun je je afvragen. Hij is toch binnen? Fout gedacht. Amodei heeft een missie, die is ontstaan in zijn jeugd. Voor hem dient AI om van de wereld een betere plek te maken, voor alle mensen en niet voor een paar techbro’s. Zijn drijfveer komt voort uit een persoonlijk drama, en net dat maakt ‘m zo sterk.
Amodei wordt in 1983 geboren in San Francisco, zijn Italiaanse vader is een leerbewerker, zijn Amerikaanse moeder werkt aan renovatie- en bouwprojecten voor bibliotheken. Ze zijn wereldverbeteraars, brengen hem het verschil tussen goed en kwaad en ‘een sterk verantwoordelijkheidsgevoel’ bij, zegt hij op Medium.
Lees ook: De grootste AI-blunder? Denken dat generatie Z de verliezer is
Overlijden van zijn vader
Al groeit hij op in een tech-omgeving, waar de dotcom-wereld op dat moment in volle bloei staat, Amodei is niet geïnteresseerd in het bouwen van websites. Zijn eerste liefde is de wetenschap, vooral wiskunde en natuurkunde. Hij studeert theoretische natuurkunde aan Caltech en Stanford.
Wanneer hij begin twintig is, overlijdt zijn vader aan een zeldzame ziekte. Dat schokt hem, en hij gooit zijn studie om naar biofysica op Princeton. Daarmee kan hij meer impact hebben op de biologie van de mens en het ontstaan van ziektes.
Het verlies van zijn vader heeft hem gevormd. Vooral omdat vier jaar later een medische doorbraak ervoor zorgde dat de ziekte van zijn vader niet langer in de helft van de gevallen dodelijk was, maar voor 95 procent te genezen.
Grenzen van het menselijk kunnen
Als de wetenschap iets sneller was geweest, had zijn vader een grote kans gehad om te blijven leven. AI is voor Amodei hét middel om die doorbraken te versnellen, maar het duurt wel even voor hij dat door heeft.
Tijdens zijn studie ergert hij zich al wel aan de bestaande onderzoeksmethodes. Zo ontwikkelt hij zelf een sensor om meer data te verzamelen over de signalen die via het oog naar de hersenen worden gestuurd.
Bij het opsporen van uitgezaaide kankercellen loopt Amodei opnieuw tegen de grenzen aan van het menselijk kunnen. ‘Om de complexiteit van de onderliggende problemen in de biologie te begrijpen, heb je honderden, duizenden menselijke onderzoekers nodig.’
Naar het bedrijfsleven
Hij begint te experimenteren met machine learning, schrijft software en realiseert zich dat AI dat gebrek aan onderzoekers kan overbruggen. Technologie kan ‘ons verder brengen dan die menselijke schaal’. Amodei verruilt daarop de universiteit voor het bedrijfsleven, want daar is genoeg geld om AI verder te ontwikkelen.
Hij denkt aan Google, dat net DeepMind heeft gekocht, maar hij is nog meer onder de indruk van de inzet van de Chinese zoekmachine Baidu. Daar krijgt een wetenschapper een budget van 100 miljoen dollar om een superteam te vormen voor AI.
Van dat team wil Amodei deel uitmaken, maar wat moeten ze bij Baidu met een halve bioloog? Toch raakt het team wel overtuigd van de code die hij heeft geschreven en Amodei begint in het najaar van 2014 bij Baidu. Daar wordt niet alleen met geld gesmeten, maar ook met data en rekenkracht.
Lees ook: AI speelt nog geen rol in de reorganisatiegolf van BV Nederland
Google en OpenAI
Hij werkt aan spraakherkenning, maar draagt ook zijn steentje bij op het vlak van opschalen: hoe meer er in zo’n AI-model wordt gestopt, van data tot training, hoe beter de prestaties. Maar het succes van het team wordt ook meteen de ondergang.
Amodei wordt uitgenodigd om zich bij de oprichting van OpenAI aan te sluiten, maar hij kiest voor Google Brain. Tien maanden later, wanneer hij zich steeds verder weg voelt zakken in het moeras van een grote corporate, maakt hij in 2016 alsnog de overstap.
Als onderzoeker werkt hij bij OpenAI aan de grote taalmodellen GPT-2 en -3. Vooral met GPT-3 worden indrukwekkende resultaten geboekt met coderen, samenvatten en vertalen. Hij wordt mede-uitvinder van reinforced learning op basis van menselijke feedback (RLHF). Opnieuw leiden de successen tot intern gedoe.
De panda’s
Amodei heeft echter een trouw clubje medewerkers om zich heen verzameld, de panda’s genoemd. Samen hebben ze hele andere ideeën over het leiderschap van OpenAI. Voor Amodei is het cruciaal dat leiders oprecht zijn, eerlijk, en de intentie hebben om de wereld te verbeteren.
Dat mist hij bij OpenAI. Hij ziet eerder de commercie winnen van veiligheid, en dus stopt hij er. Midden in de covid-pandemie, in december 2020, verlaat hij OpenAI met een handjevol onderzoekers. Samen met die oud-collega’s en zijn zus Daniela richt hij in 2021 Anthropic op.
‘Toen we met Anthropic begonnen, hadden we geen idee hoe we geld zouden verdienen, of wanneer, of onder welke omstandigheden’, vertelt hij tegen Fortune. Wat ze wel weten, is dat ze grote taalmodellen willen bouwen, met de nodige veiligheidsmaatregelen én het openbaar maken van de lessen die ze geleerd hebben.
Te laat met Claude
Die voorzichtigheid is ook de reden waarom Amodei in de zomer van 2022 nog even wil wachten met het lanceren van Claude. Hij besluit om intern nog even verder te testen met de chatbot, is deze machine wel veilig genoeg? Een paar maanden later verbaast OpenAI de wereld met ChatGPT. De rest is geschiedenis.
Natuurlijk wordt hem regelmatig gevraagd of hij spijt heeft van dat wachten. Claude komt pas in maart 2023 op de markt. Anthropic heeft door deze move namelijk miljarden verloren, een stevige nummer-1-positie en een vermelding in de geschiedenisboekjes.
Een beetje ceo zal zich de haren uit het hoofd hebben getrokken. Krullenbol Amodei niet. Terugkijkend vermoedt hij nog altijd dat hij de juiste beslissing heeft genomen. Maar toch is ‘het niet helemaal duidelijk’, zegt hij tegen Time.
Respect opgebouwd
Wat het afremmen van Claude hem dan wel heeft opgeleverd? Heel wat respect bij de AI-community en de reputatie dat Anthropic veilige, verantwoordelijke en transparante AI-modellen bouwt.
Met het delen van het raamwerk hiervoor, de responsible scaling policy, hoopt Amodei dat de rest van de wereld geïnspireerd raakt en hem volgt, van bedrijven tot overheden. Hij wil geen discussie starten over good or bad guys. ‘We proberen het ecosysteem in een richting te sturen waarin iedereen goed kan zijn.’
Anthropics focus is het bouwen van technologie voor bedrijven, niet voor consumenten. Grote corporate klanten, zoals Novo Nordisk, Pfizer, AIG en Salesforce, vinden de inzet op veiligheid en betrouwbaarheid uiterst aantrekkelijk. Zo’n 85 procent van de omzet komt uit applicaties van de taalmodellen voor bedrijven. De rest komt van abonnementen op Claude.
Groeien als kool
Het bedrijf groeit daardoor als kool. De omzet gaat van 10 naar 100 miljoen dollar in 2023, van 100 miljoen naar 1 miljard dollar in 2024. Eind 2025 staat de teller op 9 miljard, aldus Bloomberg. ‘De AI-tool Claude van Anthropic is een onmisbaar hulpmiddel geworden voor bedrijven en ontwikkelaars die code schrijven en andere taken uitvoeren’, klinkt het bijna lyrisch.
Winst wordt er nog niet gemaakt, het afgelopen jaar zou Anthropic 5,2 miljard dollar verlies hebben geleden. Het omzetdoel voor dit jaar ligt tussen de 20 en 26 miljard dollar. Tegen 2028 zou het bedrijf break-even moeten worden, en dat is eerder dan OpenAI.
Zo bewijst Amodei dat kiezen voor veiligheid wel degelijk een goede business case is. Voor bedrijven wordt het ook een steeds overtuigender verkoopargument. Zij hebben het idee dat het moeilijker is om Claude foute dingen te laten doen, zoals het onthullen van bedrijfsgeheimen.
Niet vertragen
Zelfs de ontsporingen van Claude, zoals blunders en dreigementen, die openlijk worden gedeeld, brengen ze daar niet vanaf. Het waarschuwen voor de risico’s is voor Amodei eigenlijk een manier om de vertraging van de ontwikkeling en toepassingen van AI te voorkomen.
Als die zichtbaar worden gemaakt, dan kan er worden gewerkt aan de oplossingen. Amodei heeft namelijk nog altijd een missie. ‘Ik begrijp heel goed wat er op het spel staat. Wat betreft de voordelen, wat het kan betekenen, de levens die het kan redden. Ik heb dat persoonlijk meegemaakt.’
Lees ook: AI is een heel beroerde ondernemer, bewijst dit experiment
