Life 3.0 begint met een verhaal over een groepje wetenschappers dat in het geheim een superintelligente computer genaamd Omega bouwt. De zelflerende capaciteit van Omega is zo groot dat de wetenschappers hem afzonderen van de buitenwereld. Ze geven hem alleen die informatie die hij nodig heeft om bijvoorbeeld de beste webwinkel ter wereld te bouwen, talen te leren of andere taken die zij uitkiezen uit te voeren.
Zolang de wetenschappers de informatiestroom beheersen, weten ze de computer in toom te houden. Maar op een dag besluit Omega dat het genoeg is geweest. Hij leidt een van de wetenschappers om de tuin en krijgt toegang tot het internet. In een mum van tijd heeft Omega het internet ‘gelezen’ en neemt hij de wereld over. Hij bepaalt de beurskoersen, bestuurt bedrijven en uiteindelijk ook landen. En dat zonder dat iemand het doorheeft.
Hoewel het eerst hoofdstuk in Max Tegmarks boek verdacht veel wegheeft van de film The Matrix, is het bloedserieus bedoeld. De ontwikkelingen op het gebied van kunstmatige intelligentie, ofwel Artificial Intelligence (AI), gaan zo snel dat niet langer uit te sluiten valt dat de mens echt wordt voorbijgestreefd door zijn eigen creaties.
Deze publicatie verscheen eerder in MT Insights, met als thema ‘Het bedrijf waar iedereen wil werken’.
Waar de huidige zelflerende systemen beschikken over beperkte kunstmatige intelligentie, waarbij computers in staat zijn om beter te rekenen en schaken dan de mens, krijgen we straks algemene kunstmatige intelligentie, in het Engels Artificial General Intelligence (AGI), waarin computers dezelfde intellectuele capaciteiten hebben als mensen. Voor het zover is, moeten we volgens Tegmark goed hebben bedacht hoe we willen omgaan met AGI en wat we ermee willen bereiken. ‘Het kan het slechtste, of het beste zijn wat de mensheid ooit heeft gecreëerd.’
De titel van je boek is Life 3.0. Wat moeten we daaronder verstaan?
‘Ik noem de eerste levensvorm 1.0 omdat hij ‘dom’ is, zoals een bacterie. Het is niet in staat om tijdens zijn leven iets aan zichzelf te veranderen. Wij mensen zijn Life 2.0, omdat we kunnen leren of, in geek speak, in staat zijn om onze eigen software te ontwikkelen. Wij kunnen een taal leren of vakkennis opdoen. Life 3.0 bestaat nog niet, want dat is de vorm van leven die niet alleen zijn eigen software, maar ook eigen hardware kan ontwerpen. Zo bekeken zou je kunnen stellen dat de mens nu op Life 2.1 zit, met onze kunstknieën en hartkleppen.’
Dat derde stadium wordt waarschijnlijk bereikt door computers die intelligent zijn. Maar kunnen machines echt intelligent zijn zoals mensen?
‘Veel mensen leiden aan wat ik ‘koolstofchauvinisme’ noem. Ze denken dat je alleen maar intelligent kunt zijn als je uit koolstofatomen in de vorm van vlees bestaat. Maar dat staat haaks op de revolutie rond AI. Intelligentie gaat over het verwerken van informatie. Het maakt geen donder uit of dat gebeurt met koolstofatomen in een neuron in de hersenen, of in een siliciumatoom in een computer. Ik definieer intelligentie daarom als de mogelijkheid om doelen na te streven en te bereiken.’
Is de ontwikkeling in AI op dit moment echt in een stroomversnelling geraakt?
‘Het gaat veel sneller dan veel mensen dachten. Kijk maar eens hoeveel beter Google Translate is geworden in de afgelopen vijf jaar. Van heel erg slecht naar best wel nuttig. Een van de meest schokkende ervaringen voor mij persoonlijk waren de resultaten van een ander taalexperiment. Men had een zelflerend systeem zowel Engelse teksten als Italiaanse teksten laten lezen, maar wel compleet verschillende. En toch wist de computer in korte tijd een Italiaans-Engels woordenboek te maken. Het systeem was in staat om zonder ook maar één echte vertaling te hebben gezien, de structuur van de taal te doorgronden.’
Maar dat is nog geen algemene kunstmatige intelligentie?
‘Het is knap, maar het is nog oppervlakkig. De computer weet nog niet wat die teksten betekenen. Hij herkent patronen. De AI die we nu hebben, kan zichzelf beter leren schaken en Go spelen dan de mens. Dat is nog lang niet het niveau van algemene intelligentie dat een kind heeft, maar de meeste AI-wetenschappers die ik de laatste tijd op conferenties spreek, denken dat het er gaat komen. Het kan nog meer dan 100 jaar duren, maar misschien is het al binnen een paar decennia zover. En toch merk je dat veel wetenschappers nu nog steeds alleen maar bezig zijn met het volgende kleine stapje en misschien met het stapje daarna. Ik denk dat we juist moeten nadenken over wat er gebeurt als we op dat punt zijn aanbeland.’
Moeten we algemene kunstmatige intelligentie wel willen?
‘Het is veel te verleidelijk voor bedrijven om die technologie toe te passen en dus gaat het er komen. Elke keer in de geschiedenis dat er een manier kwam om mensen te vervangen door machines hebben we het gedaan. Zonder na te denken over de sociale gevolgen. Tijdens de industriële revolutie hebben we spierkracht vervangen door machines die sterker zijn dan wij. Dat liep goed af omdat we ons zelf geleerd hebben hoe met onze hersenen te werken. Maar wat doen we als we machines kunnen maken die ons brein in alle taken overklassen? Aan de andere kant zijn we nu weer vooral over de risico’s aan het praten, terwijl ik in mijn boek juist ook schrijf wat AGI allemaal mogelijk kan maken. We kunnen straks manieren bedenken om vrijwel oneindig veel schone energie op te wekken, we kunnen de ruimte koloniseren en dingen gaan doen die wij ons op dit moment niet eens kunnen voorstellen. Maar het gaat niet vanzelf. We moeten een wapenwedloop van kunstmatig intelligente wapens voorkomen. We moeten werken aan de veiligheid én we moeten iets doen aan inkomensongelijkheid. Dat straks niet de mensen die de machines hebben al het geld verdienen, maar dat iedereen kan profiteren.’
