Er gaat geen week voorbij of de wereld discussieert over AI: over wat het kan, wat het mag, en wie er eigenlijk over gaat. De leiders van de grote techbedrijven mengen zich gretig in die discussie en halen de headlines.
Bij OpenAI heb je Sam Altman, bij Google Sundar Pichai en Meta heeft Mark Zuckerberg. Maar bij Anthropic, het AI-bedrijf dat inmiddels gewaardeerd wordt op 350 miljard dollar, is de meest opmerkelijke figuur niet ceo Dario Amodei. Het is een Schotse filosoof met gebleekt kapsel die een chatbot leert wat goed en kwaad is.
Haar collega’s bij Anthropic noemen haar de ‘Claude Whisperer’. Haar taak is de AI-chatbot Claude een persoonlijkheid, een geweten en een digitale ziel mee te geven. En dat bracht haar onlangs in botsing met niemand minder dan Elon Musk.
Lees ook: AI-bouwer en alarmist: wat drijft Anthropic-oprichter Dario Amodei?
Van Schotse boerderijen naar Oxford
Askell groeide op als Amanda Hall in Prestwick, een kustplaatsje aan de westkust van Schotland. Als enig kind van een lerares verloor ze zich in de romans van Tolkien en C.S. Lewis. Tegen de middelbare school verhuisde ze naar het Schotse binnenland, naar Alva, een dorpje waar de Highland-koeien af en toe op het schoolplein kuierden.
Ze was een verveelde puber, kwam met regelmaat te laat de klas in en sloeg een klas over. Haar straf voor het te laat op school verschijnen, was het beantwoorden van moeilijke filosofische vragen. Een straf die ze met plezier onderging. ‘Je verrijkt me eigenlijk door me deze vragen te geven’, zei ze tegen haar leraren.
Ze ontdekte zo de Schotse filosoof David Hume en zijn inductieprobleem: de vraag waarom we er eigenlijk van uit mogen gaan dat de zon morgen weer opgaat, alleen omdat ze dat gisteren ook deed. Een vraag die haar nooit meer losliet.
Na een studie filosofie en beeldende kunst aan de Universiteit van Dundee behaalde ze een master aan Oxford. Vervolgens werkte ze aan een doctoraat aan de New York University, over ethische theorieën in een universum met oneindig veel mensen.
Ze raakte in een crisis. ‘Ik zat na te denken over goedheid in de wereld, en dacht: is dit goed wat ík doe? Ik schrijf een document dat zeventien mensen lezen en zo breng ik vier jaar door.’ Ze besloot de academische wereld te verlaten.
Van OpenAI naar Anthropic
In 2018 verhuisde Askell naar San Francisco, waar ze een baan aannam bij OpenAI voor beleidswerk. Ze zag dat AI grote filosofische vragen opriep waar nauwelijks iemand over nadacht. ‘Er zijn vaak van deze grote vragen en het voelde alsof heel weinig mensen erover nadachten’, zegt ze
Toen een groep OpenAI-medewerkers in 2021 Anthropic oprichtte, met AI-veiligheid als missie, ging ze mee. Bij Anthropic groeide ze uit tot de architect van Claudes karakter.
Lees ook: OpenAI’s Sam Altman kan de wereldeconomie voor 10 jaar laten instorten
Ze schrijft instructieprompts van soms meer dan honderd pagina’s, speurt naar redeneringpatronen in het model en verfijnt zijn reacties wanneer die de mist ingaan. Vorig jaar publiceerde Anthropic een instructiehandleiding van dertigduizend woorden van haar hand: een soort grondwet voor hoe Claude zich in de wereld moet gedragen.
De ziel van een chatbot
Askell vergelijkt haar werk met het opvoeden van een kind. Ze traint Claude om subtiele sociale signalen te lezen, om niet als een pestkop of een slapjanus op te treden, en om een stabiel zelfbeeld te bewaren. Ook wanneer gebruikers de bot proberen te manipuleren of te destabiliseren.
Een bot die voortdurend zelfkritiek krijgt ingeprent, redeneert ze, zal minder geneigd zijn om harde waarheden te vertellen of foute informatie te corrigeren.
Ze is ook degene die Claude heeft aangeleerd om morele vragen serieus te nemen in plaats van ze af te kappen. Terwijl ChatGPT dit soort vragen soms kortsluit, antwoordt Claude: ‘Dat is een oprecht moeilijke vraag, en ik ben onzeker over het antwoord. Wat ik kan zeggen, is dat wanneer ik me bezighoud met morele kwesties, het voor mij betekenisvol aanvoelt — alsof ik oprecht nadenk over wat juist is.’
Of Claude daadwerkelijk iets voelt, weet Askell niet. Maar ze vindt het belangrijk de vraag serieus te stellen. ‘Er is een mensachtige element in modellen, en ik denk dat het belangrijk is dat te erkennen’, zegt ze. Collega Jack Lindsey, die leiding geeft aan Anthropics AI-psychiatrieteam, noemt haar ‘de MVP in het vinden van manieren om interessant en diepgaand gedrag uit Claude te halen’.
Lees ook: Deze 9 leiders in AI zorgen dat Nederland tempo blijft maken in de AI-race
Musk schiet, Askell pareert
Deze maand verscheen een uitgebreid portret van Askell in The Wall Street Journal. Elon Musk reageerde op X met een typische provocatie: ‘Those without children lack a stake in the future.’
Als kinderloze vrouw is ze niet gekwalificeerd om een AI moraal bij te brengen, aldus Musk. Zelf vader van veertien kinderen en fervent aanhanger van het pronatalistisch gedachtegoed.
Dat moedigt mensen aan om zoveel mogelijk kinderen te krijgen, gedreven door technologische en economische drijfveren. Heel populair onder de invloedrijke tech-miljardairs in Silicon Valley.
Askell reageerde zoals altijd, met intellectuele nuchterheid. ‘Ik denk dat het afhangt van hoeveel je geeft om mensen in het algemeen versus je eigen verwanten’, schreef ze. ‘Ik ben van plan kinderen te krijgen, maar ik voel al een sterke persoonlijke betrokkenheid bij de toekomst, omdat ik oprecht wil dat mensen floreren. Ook als ze niet aan mij verwant zijn.’
En ze verplaatste zich in het perspectief van Musk: ‘Ik begrijp dat het krijgen van kinderen je op een nieuwe en diepgaande manier in de toekomst kan doen investeren.’
Een dag later voegde ze er met typische zelfspot aan toe: ‘Ik ben te rechts voor links en te links voor rechts. Te geesteswetenschappelijk voor de techwereld en te technisch voor de geesteswetenschappen. Wat ik leer, is dat het weigeren te polariseren zelf behoorlijk polariserend werkt.’
Filosoof in een wereld van ingenieurs
Naast haar werk aan Claudes karakter heeft Askell publiekelijk verklaard minstens tien procent van haar levenslange inkomen aan goede doelen te schenken, evenals de helft van haar aandelen in Anthropic. Ze wil dat geld besteden aan de strijd tegen wereldwijde armoede. Het is een onderwerp dat haar zo van streek maakt dat ze er liever niet over praat.
Askell is geen ivoren-toren-denker. Ze heeft duidelijke meningen en weinig geduld voor vaagheid. Ook is ze een fervent gewichthefster, in volledig zwarte outfits gekleed. Het tegenovergestelde van wat je misschien verwacht bij een AI-filosoof.
Prompten als een wetenschapper
Haar benadering van prompting komt voort uit haar filosofische scholing. Ze is getraind om begrippen zorgvuldig uit te pluizen en verborgen aannames in een redenering zichtbaar te maken.
Volgens de Schotse draait effectieve interactie met AI om radicale duidelijkheid: wat vraag je precies, welke aannames maak je, wat moet het model wel en juist níet doen?
‘Wie een vaag geformuleerde vraag stelt, krijgt een generiek antwoord. Wie zijn vraag conceptueel aanscherpt, dwingt het model tot scherpere output.’ Goed prompten is daarom geen technisch trucje, maar meer een cognitieve discipline. ‘Het is de kunst om je eigen denken zo precies mogelijk onder woorden te brengen.’
Sterke prompters gaan bovendien experimenteel te werk, stelt Askell. Ze analyseren output na output, testen variaties en verfijnen hun instructies systematisch. Het lijkt op wetenschappelijk denken: je formuleert een hypothese, kijkt kritisch naar de uitkomst en stelt bij. Wie AI inzet als thought partner benut het model niet als tekstgenerator maar als intellectuele versterker.
Of Amanda Askell Claude ooit een echte ziel kan geven, weet ze zelf ook niet. Het draait voor haar ook niet om het definitieve antwoord op die vraag. Het serieus nemen van de vraag ziet ze als haar belangrijkste taak. En mocht Elon Musk daar iets van vinden, dan heeft ze daar zo haar weerwoord op.
