Prominente investeerders als Greenoaks, Lightspeed Venture Partners, Google-moeder Alphabet, chipmaker Nvidia en Andreessen Horowitz zien het helemaal zitten. Ze maakten 2 miljard dollar over naar Super Safe Intelligence (SSI), in een fundingronde die de startup waardeert op 32 miljard dollar.
Investeerders zetten in op de oprichters van SSI
Dat terwijl het bedrijf pas vorig jaar juni is opgericht, en bij de startronde – van ook al 1 miljard dollar – nog werd gewaardeerd op een lousy 5 miljard. Toch heeft het in de tussentijd nog geen begin van een product gelanceerd, werken er een stuk of 20 mensen verdeeld over vestigingen in Palo Alto en Tel Aviv en spraken de oprichters tot nu toe vooral in algemene termen over hun missie. Is de AI-hype op een nieuw kookpunt beland, of heeft SSI écht goud in handen?
Vast staat, dat investeerders hun geld niet per se inzetten op de pitchdeck die ze ongetwijfeld kregen voorgeschoteld door Super Safe Intelligence. Alles draait om de drie oprichters. Daniel Gross, de voormalige AI-chef van Apple, is niet de minste, net als AI-onderzoeker en voormalig OpenAI-medewerker Daniel Levy. Maar het is Ilya Sutskever die als boegbeeld SSI tot de meest spraakmakende AI-startup van dit moment maakt.
Ilya Sutskever en de machtsstrijd bij OpenAI
Zijn naam laat ver buiten het AI-universum wel belletjes rinkelen. De 38-jarige Sutskever was namelijk medeoprichter en chief scientist van OpenAI, de club die met ChatGPT de gekte rond kunstmatige intelligentie aftrapte. Hij speelde zichzelf in de kijker door de opmerkelijke rol die hij speelde in de machtsstrijd die in 2023 losbarstte bij zijn bedrijf.
Het bestuur wipte in november van dat jaar ceo Sam Altman, in een strijd tussen een kamp dat verantwoorde en veilige AI wilde leveren die de mensheid dient en een iets commerciëler ingestoken club, die winst wilde maken op de producten. Sutskever was aanvankelijk van het kamp dat de veiligheid vooropstelde. De ontwikkeling van AI ging zóveel sneller dan eerder verwacht, dat de technologie – zeker in verkeerde handen – schade zou kunnen aanrichten.
In de weken dat een paar andere kopstukken van OpenAI ontslag namen uit protest tegen het gedwongen vertrek van Altman, veranderde hij 180 graden van mening, zei sorry en maakte hij zich sterk voor de rentree van Altman. Feit is dat hij zelf opstapte uit het bestuur en enkele maanden later helemaal vertrok om zich te gaan wijden aan ‘een project dat me persoonlijk na aan het hart staat.’ We weten inmiddels wat dat project is.
Lees ook: Durk Kingma, de Nederlandse co-founder van OpenAI, is wereldberoemd (binnen de AI-wereld)
Gepromoveerd bij de godfather of AI
Sutskever groeide op in Israël nadat zijn ouders, Russische joden, toen hij 5 was naar dat land waren geëmigreerd. Op zijn zestiende verkaste het gezin naar Canada, waar Ilya aan de universiteit van Toronto promoveerde in computerwetenschappen. Dat deed hij bij niemand minder dan Geoffrey Hinton, de pionier in deep learning, het trainen van neurale netwerken, die later een Nobelprijs zou winnen voor zijn werk.
Onder begeleiding van de Brit, ook wel de godfather of AI genoemd, won Sutskever in 2012 een prijsvraag rond beeldherkenning met een neuraal netwerk dat spectaculair goed was in het herkennen van plaatjes, het zogeheten computervision. AlexNet blies alle andere inzending weg, mede dankzij het gebruik van grafische computerchips, de GPU’s die inmiddels de standaard zijn voor AI-berekeningen maar toen nog vooral in spelcomputers zaten.
Periode bij Google met AlphaGo en TensorFlow
De opzet van AlexNet, zoals de vinding van Sutskever, zijn medestudent Alex Krizhevsky en Hinton ging heten, was enorm invloedrijk in de wereld van de beeldherkenning en taalmodellen, de zogeheten Large Language Models waarop ChatGPT en andere AI’s draaien. De drie startten een gezamenlijk researchbedrijf, dat al snel werd overgenomen door Google. Sutskever bleef vervolgens een paar jaar verbonden aan Google Brain.
Daar liet hij zien dat de opzet van AlexNet ook uitstekend geschikt was om patronen in woorden en zinnen te herkennen. Hij werkte er mee aan de beroemde Go-kampioen AlphaGo en TensorFlow, Google Translate kreeg een fenomenale update dankzij een nieuwe manier van het trainen van neurale netwerken. Onderwijl kreeg hij steeds meer het gevoel dat algemene kunstmatige intelligentie ofwel AGI binnen handbereik lag. Tot hij in 2015 in het vizier kwam van een nieuwe non-profitorganisatie: OpenAI.
Dinertje met OpenAI-oprichters
Sam Altman, destijds vooral bekend als baas van Y Combinator, hield in de zomer een dinertje waarbij ook medeoprichters Elon Musk en Greg Brockman aanschoven. Sutskever was door Musk uitgenodigd en had een prima avond. Maar had het zó naar zijn zin bij Google Brain, dat hij pas in december de knoop doorhakte en overstapte naar de nieuwe stichting. ‘Het was een van de moeilijkste wervingsgevechten die ik ooit heb gehad, maar hij was echt onmisbaar voor het succes van OpenAI’, zei Musk achteraf.
Lees ook: Ooit richtten ze OpenAI samen op, nu kunnen Musk en Altman elkaar niet meer luchten of zien
Onder de bescheiden titel van research director leidde hij in de eerste jaren feitelijk het onderzoek van OpenAI en de hele organisatie, waarvoor hij wereldwijd de grootste talenten wist binnen te halen. De wetenschapper zette zijn naam achter verschillende versies van GPT die in 2022 leidden tot megasucces ChatGPT, achter plaatjesgenerator Dall-E en de taalmodellen die kunnen redeneren.
De Israëlische Canadees staat dan ook bekend als geniaal. Zijn voormalige baas Altman noemde hem bij zijn vertrek ‘een van de briljantste geesten van onze generatie.’ Nobelprijswinnaar Hinton blies hij regelmatig omver met zij brille, vertelde die vorig jaar. Eens opperde Sutskever om een nieuw programma te schrijven dat een neuraal netwerk waaraan hij en Hinton al maanden mee werkten, sneller kon trainen. Laat maar, duurt te lang, zei Hinton daarop. ‘Bleek hij het de nacht ervoor al zelf te hebben gedaan.’
Superintelligentie die de mensheid bedreigt
Maar Sutskever heeft misschien een nog grotere reputatie als voorvechter van veilige AI. De laatste maanden voor zijn vertrek bij OpenAI stonden vooral in het teken van een project rond ‘superalignment’, het technisch in goede banen leiden van de superintelligentie die misschien binnen tien jaar een feit is.
Zodra kunstmatige intelligentie die van de mensheid op alle gebieden overvleugelt, wordt het lastig te zorgen dat die zich nog houdt aan ethische principes of de doelen waarmee ze is ontwikkeld. Sutskever waarschuwde bij OpenAI al in interviews dat superintelligentie weliswaar kan helpen ‘veel van de belangrijkste problemen van de wereld op te lossen’, maar dat het ook ‘zeer gevaarlijk zou kunnen zijn, en zou kunnen leiden tot het ontnemen van macht aan de mensheid of zelfs het uitsterven van de mens.’
AI die de mensheid als baby beschouwt
Zelf beziet Sutskever, ook bij zijn nieuwe startup, die toekomst waarin AI zijn gang gaat met grote zorg. Toen hij nog bij OpenAI werkte, vergeleek hij superintelligente AI — onvoorspelbaar, bewust en actief in de echte wereld — met een ouder die voor een baby zorgt. ‘AI-systemen zullen uiteindelijk zeer, zeer, zeer capabel en krachtig worden. We zullen ze niet kunnen begrijpen en ze zullen veel slimmer zijn dan wij. Tegen die tijd is het absoluut cruciaal dat we ze hebben meegegeven dat ze de mens bekijken zoals wij ons voelen tegenover onze baby’s.’
Zijn nieuwe missie lijkt dus voort te borduren op die belangrijke kwestie rond AI: hoe stellen we zeker dat die de mensheid blijft dienen en liefst niet andersom? Voor zover valt na te gaan, is ook het doel van SSI verantwoorde AI te ontwikkelen. Zo legde Sutskever het zelf in juni 2024 uit op X: ‘Safe superintelligence in a straight shot, with one focus, one goal, and one product‘.
SSI doet niet mee aan de rat race
Een nieuwe Al, opgebouwd vanaf een leeg vel papier, met een totaal nieuwe manier om intelligente systemen te trainen tot superintelligentie. Dat is de belofte. Maar voordat het zo ver is, hoeft niemand een product te verwachten van de miljardenstartup.
Sutskever heeft duidelijk geleerd van zijn ervaringen bij OpenAI, dat zijn nobele missie van de begintijd zag verwateren naarmate investeerders en grote aandeelhouders als Microsoft zich ermee gingen bemoeien. SSI isoleert zichzelf ‘volledig van de druk van buitenaf die het ontwikkelen van een groot en complex product met zich meebrengt’.
Het hoeft ook niet op zoek naar het beste businessmodel omdat het niet meedoet aan een rat race met concurrenten. Veiligheid staat centraal. Die moeten we niet opvatten als vriendelijk voor onze privacy, intellectueel eigendom of andere voorwaarden, maar als in veilig zoals kernenergie veilig moet zijn: een potentieel allesverwoestende kracht die de mensheid moet zien de baas te blijven.
