Opgroeien in een klein dorp heeft voor- en nadelen: iedereen kent je, maar iedereen weet ook precies welke streken je uithaalt.
Sandra Matz, universitair docent aan Columbia Business School, woont niet langer in haar Duitse dorp, maar in New York. Daar wordt ze 24 per dag, zeven dagen per week gevolgd door digitale versies van nieuwsgierige buren. Die kijken niet even stiekem achter een gordijn, zij verzamelen haar digitale voetstappen – inclusief het restafval – en laten daar kunstmatige intelligentie op los.
Elk uur wordt 6 gigabyte aan data over jou en mij verzameld, schrijft de computerwetenschapper in Mindmasters dat op 7 januari uitkomt. Dat gaat over meer dan je posts op sociale media, of het nieuws dat je aanklikt, of de vragen die je stelt aan Google.
Sensoren? So what
Sensoren in je smartphone weten precies waar je bent en hoe actief je bent. Je aankopen met je creditcard en je playlists worden opgeslagen. Je gezichtsuitdrukkingen worden vastgelegd via honderden bewakingscamera’s. Je leaseauto monitort je rijgedrag en je bestemmingen. Zelfs je robotstofzuiger speelt informatie over je door.
So what, denk je misschien. Al die digitale broodkruimels verzuipen toch in de gigantische bergen met data die wereldwijd opgestapeld worden. Maar Matz is een bekende expert in het digitaal voorspellen en veranderen van gedrag.
Ze heeft onder meer bijgedragen aan de ontmaskering van Cambridge Analytica, het schandaal over het beïnvloeden van de Amerikaanse presidentsverkiezingen in 2016. Ze onderzoekt en test, al dan niet in opdracht van bedrijven, algoritmes voor psychologische targeting.
Lees ook: Durk Kingma is wereldberoemd in de wereld van AI
Privacyregels zijn achterhaald
‘Computers kunnen schijnbaar alledaagse, onschuldige informatie over wat we doen vertalen in zeer intieme inzichten over wie we zijn’, schrijft ze. Hoe? Machine learning, duh. Daarmee kunnen al die losse puzzelstukjes – data points – worden gecombineerd tot een complete puzzel.
Met algoritmes die steeds beter en krachtiger worden, is het niet meer zo moeilijk om jouw digitale activiteiten om te zetten in een persoonlijk profiel dat zeer geschikt is voor psychologische targeting. Privacyregels, zoals toestemming geven om je data te delen, zijn allang achterhaald.
Is de batterij van jouw smartphone bijvoorbeeld altijd opgeladen? Kijk je regelmatig op apps naar het weerbericht en zet je vaak timers? Algoritmes koppelen dat zo aan één van de big five persoonlijkheidskenmerken: zorgvuldigheid. Interessant voor banken bijvoorbeeld, die zo weten dat een lening wel zal worden terugbetaald.
Zorgwekkend plaatje
Ander voorbeeld: de gps-coördinaten die je smartphone verzamelt. Waar woon je, hoe vaak ga je erop uit, waar ga je dan naartoe? Wat zijn de routines in je leven? Zit daar niet zoveel beweging in, dan kan een algoritme concluderen dat je depressief bent. Dat maakt je een interessant profiel voor farmabedrijven.
Matz wil een genuanceerd plaatje schetsen in haar boek, maar het is eerder zorgwekkend. Tien Facebook-likes zijn genoeg voor een algoritme om je persoonlijkheid beter te beoordelen dan je collega’s. Op basis van foto’s van je gezicht kan een algoritme van twee personen redelijk goed vaststellen wie homoseksueel is.
‘Er is niet veel fantasie voor nodig om te begrijpen dat psychologische targeting in de verkeerde handen een krachtig wapen kan zijn’, waarschuwt ze. Dat inzicht in je psychologische behoeften, voorkeuren en motivaties ‘geeft anderen de macht over jou. Macht om je meningen, emoties en uiteindelijk gedrag te beïnvloeden’, aldus Matz.
Lees ook: Is Nederland blind voor de donkere kant van AI?
Natte droom van marketeers
Dit is ook nog maar het begin. Straks heb je misschien slimme lenzen in je ogen, microrobots in je bloedbaan en chips in je hersenen. Techmiljardair Elon Musk kan al niet wachten om zo in je brein rond te wroeten. Zijn bedrijf Neuralink is er rond de klok mee bezig.
‘Daardoor zullen veel van de speculaties en beredeneerde gokjes in onze huidige voorspellingen van je gedachten, gevoelens en gedrag verdampen.’ En kunnen algoritmes je nog beter psychologisch gaan targeten. Je oeroude brein is daar echt niet tegen bestand, weet Matz. De cognitieve vaardigheden van je hersenen zijn nog dezelfde als 2000 jaar geleden.
Nu zijn de meeste overheden en bedrijven echt niet zo geïnteresseerd in jou (sorry hoor). De kennis die ze over jou hebben, zullen ze vooral gebruiken om je te beïnvloeden. Dat manipuleren is van alle tijden natuurlijk. Maar psychologische targeting met behulp van generatieve AI? De natte droom van marketeers én politici.
Schaalgrootte
Daarmee kan echt het verschil worden gemaakt bij Amerikaanse presidentsverkiezingen. Psychologische targeting werkt niet bij diehard Republikeinen of Democraten, maar wel bij mensen die nog twijfelen. En in de VS gaat dat over 10 tot 25 procent van de stemmers.
Politici die aan je deur kloppen of je op de markt een flyertje toestoppen, zijn klein bier. De schaal waarop algoritmes kunnen worden ingezet – of eerder misbruikt – is gigantisch. Daar maakt Matz zich wel zorgen over in haar boek.
Algoritmes kunnen in één klap miljoenen mensen bereiken. Niet openlijk met een algemene actie op radio of tv, maar juist achter de schermen. ‘Het is alsof je in een donker steegje staat met Mark Zuckerberg, die in je oor fluistert wat de hoogste bieder hem vraagt om in je oor te fluisteren. Niet echt een prettige gedachte.’
Kansloos tegen big tech
Psychologische targeting zal zich bovendien snel uitbreiden naar heel wat andere domeinen. Elke week is er wel een startup die aan haar mouw trekt om mee te werken aan een nieuw product. Daar zitten positieve mogelijkheden bij, maar Matz is ook sceptisch.
‘De postbode die je post leest, de therapeut die de transcripties van je sessies verkoopt en de stalker die elke stap van je volgt, gaan allemaal de gevangenis in’, signaleert ze. Met de online equivalenten daarvan gebeurt nog altijd vrijwel niets.
Overheden komen dus al niet ver, maar als individu ben je helemaal kansloos tegen big tech. Je ontkomt bijna niet aan het delen van je persoonlijke data. Anders kun je geen gebruik maken van hun diensten.
Lees ook: Meer dan 200 miljard naar AI maakt investeerders bloednerveus
Hersenloze marionetten
Matz vindt niet dat je een goede deal van die bedrijven krijgt. ‘Je moet niet gedwongen worden om te kiezen tussen gemak en service aan de ene kant en privacy aan de andere kant. Je zou beide moeten eisen en krijgen.’
Alleen leeft dat niet zo, merkt ze ook bij haar studenten. ‘Als ik je zover krijg dat je Crest-tandpasta koopt in plaats van Colgate, wat maakt dat dan uit? Maar wat als ik invloed wil uitoefenen op welke partner je kiest, waarin je je geld investeert of op wie je stemt? Of al het bovenstaande? Op welk punt is je leven niet meer van jou?’
Met de voortschrijdende technologie krijgt het opgeven van je privacy namelijk nog een extra dimensie. ‘Je verliest de vrijheid om je eigen keuzes te maken en je eigen leven te leiden’, voorspelt ze. ‘Psychologische targeting kan worden gebruikt om onze diepste angsten uit te buiten en ons te laten dansen als hersenloze marionetten.’
Ecosysteem op de schop
Wat nu? Het datalandschap is te complex om daar in je eentje door te navigeren. Er zijn te veel krachten aan het werk die niet willen dat je jouw data zorgvuldig beheert. Niemand leest al die voorwaarden en bepalingen voor je digitaal op ja klikt. Hoezo transparantie. Je eigen data managen is een fulltimebaan, merkt de wetenschapper op.
Bedrijven weten wel welke data ze oogsten, wat ze ermee doen en hoeveel ze waard zijn, maar jij niet. Dat principe moet van Matz op de schop. Ze pleit voor een nieuw ecosysteem dat je toestaat om wél mee te profiteren van het afgeven van jouw data.
Ze stelt enkele oplossingen voor die ze uitwerkt in haar boek. Het uitgangspunt daarbij is vrij eenvoudig: maak het voor mensen gemakkelijk om hun data te beschermen en voor bedrijven moeilijk data te misbruiken om te manipuleren.
Data beter beschermen
In een ideale wereld zou je helemaal niets hoeven te doen om je data te beschermen, vervolgt ze. Dat kan door privacy by design. Hetzelfde principe als bij orgaandonatie. Iedereen is donor, tenzij je aangeeft dat je dit niet wil. Techbedrijven mogen geen data verzamelen, tenzij je aangeeft dat je dit wél wil.
Je hoeft je data ook niet af te staan om gebruik te mogen maken van de diensten van een Google Maps. Matz wijst daarvoor op de toepassing federated learning. Geen centrale databases meer, maar alleen heel lokale toepassingen van algoritmes.
Netflix zet dan bijvoorbeeld hun algoritme voor aanbevelingen van films of series op je iPad. Op basis van je kijkgedrag leert dat welke aanbevelingen het kan doen. Netflix krijgt van jouw apparaat alleen een versleutelde versie terug.
Lees ook: Hoe first buddy Elon Musk het centrum van de macht bereikte
Big tech opbreken
Matz gaat nog een stap verder: ze vergelijkt het verzamelen van data met het verzamelen van nucleair afval. Wie er genoeg van heeft, kan een bom maken. Daarom zijn er universeel strikte regels opgesteld om dat te voorkomen.
Dat soort vangrails zijn ook nodig voor psychologische targeting op basis van je data. Wie genoeg over jou of je familie heeft verzameld, kan ook keihard toeslaan. Of dat nu een crimineel is die een advocaat te grazen wil nemen, of een regering die een minderheid wil onderdrukken (of erger).
Om te voorkomen dat partijen te veel data verzamelen, vindt Matz dat grote techbedrijven opgesplitst moeten worden. Die aparte bedrijven mogen onderling geen data uitwisselen. De machtspositie die Facebook, Alphabet, Amazon, Apple en Microsoft inmiddels hebben veroverd, maakt ze alvast prima kandidaten hiervoor.
Terug naar het dorp
Tot slot keert Matz terug naar haar dorp, naar de coöperatie die de druiven verzamelt en daar wijn van maakt of ze doorverkoopt aan wijnhuizen. Dat kan natuurlijk ook met data. Coöperaties waarin mensen hun data delen en daarvan ook de voordelen krijgen.
‘Zulke data-coöperaties zetten het bestaande datamodel op zijn kop. In plaats van dat een paar bedrijven de controle hebben en profiteren van je data, beslis je zelf met wie je je gegevens deelt én profiteer je daar zelf van.’
Zo is de Driver’s Seat Cooperative een app voor chauffeurs waarin ze hun routegegevens met elkaar delen. Zo weten ze wat de snelste route is voor een bezorging of een veilige plek om ‘s nachts te wachten op klanten.
Bij de Zwitserse coöperatie MiData, opgericht door wetenschappers, kan iedereen met zijn of haar persoonlijke data bijdragen aan medisch onderzoek en klinische studies.
Controle terugpakken
Je maakt ongeveer 35.000 beslissingen per dag. Over welke kleur sokken je aantrekt, maar ook over het wel of niet aanvaarden van een andere baan. Laat je die straks door algoritmes nemen, of wil je zelf de regie over je leven behouden?
Met alle technologie die op ons afdendert, is het de hoogste tijd om de controle terug te pakken over je data. Dat zal niet eenvoudig zijn, weet Matz. Maar ze vertrouwt erop dat het lukt, omdat ‘we al eerder zulke stunts hebben uitgehaald’.
Lees ook: Hoe AI nu al schade aanricht volgens techfilosoof
