Te passief, te naïef, te inhalig, te laf, te egocentrisch, te optimistisch, te onwetend… Als het over de politiek en de regulering van big tech gaat, dan schetst Marietje Schaake een ontluisterend beeld.
Ze doet dat in De tech coup dat volgende week uitkomt. Ze beschrijft in haar boek hoe de machtsverhoudingen tussen overheden en big tech gierend uit de klauw zijn gelopen. En wat de impact van de wereldwijd overkoepelende macht van de techindustrie is op de democratie.
Schaake heeft ‘de systematische erosie’ van de democratie ook van nabij meegemaakt. Ze was tien jaar lang Europarlementariër voor D66. Daar was ze ‘een luis in de pels’ van de tech bros. Sinds 2019 is ze actief als docent en directeur van het Cyber Policy Center van Stanford University in Silicon Valley. Dat heeft haar kritiek op de techindustrie alvast niet doen verstommen.
Nieuw machtsevenwicht
Ze roept met dit boek op tot een nieuw machtsevenwicht tussen overheden en techbedrijven. Politici moeten niet langer achter de feiten aanlopen of oeverloos discussiëren over details. Het ‘voortdurende kat-en-muisspel’ moet stoppen, want er is een ‘drastische koerscorrectie’ nodig.
Die is te vinden in een gezamenlijke, wereldwijde coalitie, die een overkoepelend kader toepast voor digitale technologie: ‘het beschermen van de democratische waarden’. Alleen gezamenlijk ontstaat ‘genoeg kracht om de weegschaal te laten doorslaan’ naar de andere kant.
Waarom het zo mis is gelopen? Aan de basis ervan liggen de hoop en de beloftes van de technologiepioniers. Die zijn enthousiast opgepakt door bedrijven, uitgebouwd tot winstgevende monopolies en omgezet ‘in sterk tegen wetgeving gekante praktijken’. Voor MT/Sprout zoomen we in op drie van die beloftes en hoe die uit zijn gepakt in de werkelijkheid.
Belofte 1: nieuwe technologieën helpen democratiseren
Het is 2009. Het Iraanse volk komt op straat om te protesteren tegen de in hun ogen frauduleus verlopen presidentsverkiezingen. Die Groene Beweging wordt ook wel de Twitter-revolutie genoemd.
‘Actievoerders konden sociale media en mobiele telefoons niet alleen gebruiken om mensenrechtenschendingen vast te leggen en te delen, maar ook om hun acties te coördineren en mensen te mobiliseren’, schrijft Schaake.
Toen de Egyptenaren in 2011 opstand kwamen tegen het regime van president Mubarak riepen westerse media dit uit tot de Facebook-revolutie. Dankzij technologie zouden ‘ze beter toegerust zijn om rechten en gerechtigheid af te dwingen’.
Realiteit: digitale wapens onderdrukken democratisering
Autoritaire regimes gebruiken diezelfde innovaties al even slim om een eventuele democratisering de kop in te drukken. Op sociale media sporen ze zo de schrijvers van kritische berichten op. Signalen van mobieltjes worden gebruikt om oppositieleden, vreedzame betogers, mensenrechtenactivisten en journalisten te traceren en te arresteren.
De monitorings- en spionagetechnologie die deze regimes gebruiken om hun volk te onderdrukken komt uit het westen. Schaake noemt ze ‘digitale wapens’. Die technologieën zijn vandaag alleen nog maar geraffineerder, krachtiger en grootschaliger geworden.
Een voorbeeld daarvan is het in opspraak geraakte Pegasus, spyware en hackingtools van de Israëlische NSO Group. Daarmee kunnen microfoons en camera’s van smartphones op afstand worden aangezet.
Lees ook: De verborgen uitbuiting van het datakolonialisme
Nergens is democratie erop vooruitgegaan
Zero-click wordt dat genoemd, omdat de slachtoffers er niets voor hoeven te doen, zelfs niet op een geïnfecteerde link, email of sms klikken. ‘Het is niet verrassend dat autoritaire landen overal ter wereld enthousiaste afnemers zijn’, schrijft ze.
De impact van Pegasus wordt pas duidelijk in 2021 wanneer een groep journalisten meer dan 50.000 telefoonnummers van potentiële doelwitten van NSO Group publiceert. ‘Blindelings aannemen dat informatietechnologie leidt tot de verspreiding van democratie is overduidelijk een mislukte strategie gebleken’, tekent Schaake op.
‘Nergens is de democratie erop vooruitgegaan. Met behulp van verschillende technologieën is het autoritaire model juist opgebloeid.’
Belofte 2: decentralisatie van de macht
De pioniers van het internet, Schaake haalt onder meer de wetenschappers Vint Cerf en Tim Berners-Lee aan, willen de toegang tot informatie decentraliseren. Het internet moet de grote gelijkmaker en emancipator worden, zonder centrale overheidscontrole.
De grondleggers willen zo de coöperatieve, inclusieve en niet-hiërarchische omgeving van het internet voor onderzoeksinstellingen kopiëren naar de rest van de wereld. Het web groeit explosief, omdat ‘de creatieve krachten van duizenden bedrijven op één platform aan het bouwen zijn’.
Maar al even snel proberen bedrijven de online-ervaring te claimen en daar merken op te plakken. In 1996 waarschuwt Berners-Lee dat ‘jezelf binden aan één bedrijf betekent dat je je toekomst beperkt tot de innovaties die één bedrijf kan bieden’.
Realiteit: enorme machtsconcentraties
De commercie heeft het dik gewonnen van de pioniers. Door supersnel te groeien, het bekende blitzscaling van Reid Hoffman, worden complete markten gedomineerd. Dat begint met het goedkoop of gratis aanbieden van producten en diensten.
Hebben die bedrijven hun stuk van de markt eenmaal in handen, dan kunnen gebruikers bijna geen kant meer op. Schaake geeft het voorbeeld van Uber dat pas in 2023 winstgevend wordt.
Bijna vijftien jaar nadat het is opgericht en nadat het 32 miljard dollar verlies heeft geleden. ‘Terwijl Uber geleidelijk aan zijn concurrenten verdrong, rezen de tarieven de pan uit – ze stegen gemiddeld met 92 procent tussen 2018 en 2021.’
Verbijsterende omvang
Schaake noemt de marktomvang van een Amazon, Alphabet, Meta en een Apple ‘verbijsterend’. Slechts zes landen – de VS, China, Japan, Duitsland, India en Groot-Brittannië – hadden in 2022 een groter bbp dan de marktwaarde van Apple.
Daardoor hebben techbedrijven meer ‘systemische invloed’ dan andere sectoren. ‘Bedrijven en hun ceo’s blijven cruciale beslissingen nemen over wie het woord heeft, gelezen wordt, of viraal gaat’, pent Schaake neer.
Die beslissingen zijn vooral goed voor de bedrijven zelf en hun aandeelhouders. ‘De disruptors zijn veranderd in monopolisten die meedogenloos streven naar efficiëntie, surveillance, schaalvoordelen en winst.’
Lees ook: Hoe de tech-industrie bijdraagt aan de klimaatverandering
Belofte 3: technologie verbetert de wereld
Schaake haalt een brief aan van Mark Zuckerberg uit 2012. Daarin deelt de topman van Meta zijn visie op de relatie tussen Facebook en de overheid. Hij gelooft heilig in ‘het ontwikkelen van tools’ om ‘mensen te helpen delen’.
Dat kan leiden tot een ‘eerlijkere en transparantere dialoog rondom de overheid, meer rechtstreekse empowerment van de bevolking, meer verantwoording door ambtenaren en betere oplossingen voor een aantal van de grootste problemen van onze tijd’.
Zelfs op Stanford geloven studenten nog altijd dat technologie de wereld zal verbeteren, merkt ze op. Technologie is de almachtige oplossing voor armoede, racisme, de klimaatverandering en ook overheden.
‘Veel leiders van techbedrijven zijn er vandaag de dag heilig van overtuigd dat zij hun gebruikers beter van dienst kunnen zijn dan overheden hun burgers’, schrijft ze.
Lees ook: Niemand praat over de schaduwkanten van AI
Realiteit: technologie is vooral goed voor de bedrijven zelf
Alle aspecten van het sociale, professionele en maatschappelijke leven raken steeds meer gedigitaliseerd. En die digitalisering is in handen van privébedrijven, waarschuwt Schaake. Die tech coup is ook al gepleegd op het grootste deel van de vitale infrastructuur van de overheid.
Die afhankelijkheid in combinatie met de ‘buitensporige macht, financiële middelen, data en rekenkracht’ heeft wel degelijk gevolgen. ‘Techbedrijven zijn de wet- en regelgeving zo openlijk aan hun laars gaan lappen, of de overheid simpelweg gaan negeren, omdat ze weten dat de overheid ze nodig heeft.’
Meta, maar dat geldt ook voor de andere grote spelers, weigert in de meeste gevallen ‘inzage te geven in de verzamelde gegevens – of die nu worden opgevraagd door academici of congresleden’. Zo wordt het onmogelijk om ze ter verantwoording te roepen.
Regulering verstikt innovatie
‘Techbedrijven weten alles over ons, maar wij weten niets over hen’, citeert Schaake klokkenluider Edward Snowden. Om pottenkijkers te weren, gebruiken ze het juridische kader dat bedrijfsgeheimen beschermt, zoals het intellectueel eigendom of privacywetgeving.
Pogingen om nieuw beleid te maken worden met serieus lobbywerk van tafel geveegd. Elk wetsvoorstel wordt gepresenteerd als ‘een onnodige, ouderwetse en schadelijke interventie’.
Regulering zal een ‘verstikkende uitwerking’ hebben op ‘innovatie die de maatschappij ongetwijfeld ten goede zou komen’. Een mantra dat Schaake zelf van elke techlobbyist te horen heeft gekregen in haar tijd in Brussel.
AI ontwikkelen zonder vangrails
Toch is er ‘meer tegenmacht’ nodig. De werkelijkheid schuurt namelijk nogal met het doel om het beste voor de samenleving te bereiken. Sociale media zorgen ook voor alsmaar meer vereenzaming en mentale problemen. Ze ondermijnen de democratie, de informatieverspreiding, diversiteit en inclusie.
Cryptovaluta zijn het ‘favoriete vermogen van criminele organisaties’ geworden. Cybercriminelen leggen bedrijven lam om ze te chanteren of ze jatten persoonlijke gegevens om te verkopen. Kunstmatige intelligentie discrimineert en ontspoort, maar blijft ontwikkeld worden zonder vangrails.
Dat belooft voor de toekomst. ‘De voortdurende coup door techbedrijven leidde al tot geweld, instabiliteit en verdeeldheid in de echte wereld’, schrijft Schaake. Daarmee is Silicon Valley ‘in veel opzichten uitgegroeid tot het tegenovergestelde van wat de eerste pioniers beoogden’.
De tech coup: hoe tech is gaan regeren en we de macht weer terugwinnen is geschreven door Marietje Schaake, voormalig lid van het Europees Parlement en expert op het gebied van technologiebeleid. Het boek is onder meer te bestellen via managementboek.nl.
