We staan voor twee deuren, zegt Sam Harris. Achter de ene deur ligt een toekomst waarin we stoppen met het ontwikkelen van AI – dat gaat niet gebeuren.
Het enige alternatief is wat er achter deur nummer twee ligt, namelijk dat we doorgaan met onze intelligente machines jaar na jaar na jaar te verbeteren. ‘Op een bepaald moment zullen we machines bouwen die slimmer zijn dan wij,’ zegt de neurowetenschapper en filosoof, ‘en zodra we machines hebben die slimmer zijn dan wij, gaan ze zichzelf verder verbeteren. Dan lopen we het risico op een ‘intelligentie-explosie’ noemde: dat het proces niet meer te beheersen valt.’
Van die onbeheersbaarheid wordt vaak een karikatuur gemaakt: de angst dat legers van kwaadaardige robots ons zouden aanvallen. Maar onze machines zullen niet spontaan boosaardig zullen worden. Het probleem is eerder dat we AI-machines gaan bouwen die zo veel competenter zijn dan wij, dat het geringste verschil tussen hun doelen en de onze ons einde kan betekenen.
Denk maar aan hoe we ons verhouden tot mieren, zegt Harris. We haten ze niet. We zijn er niet op uit om ze kwaad te doen. We nemen soms zelfs de moeite om ze niet te schaden, door bijvoorbeeld over ze heen te stappen op de stoep. Maar als hun aanwezigheid serieus in strijd is met één van onze doeleinden, bijvoorbeeld als we ergens iets willen bouwen, of als ze op ons terras komen, vernietigen we ze zonder er bij stil te staan. Het probleem is dat we op een dag machines gaan bouwen die ons, bewust of niet, met gelijkaardige onverschilligheid gaan behandelen.
Verontrust? Kijk de TED-talk.
