Sennay Ghebreab

Sennay Ghebreab (1973) is een gerenommeerd wetenschapper en hoogleraar sociaal intelligent AI aan de Universiteit van Amsterdam. Hij staat wereldwijd bekend om zijn werk waarbij hij zich richt op de identificatie van racisme en discriminatie in AI-systemen.

Versterking ongelijkheden

Mensen helpen wilde de professor al van kleins af aan. Het liefst werd hij arts. Maar toen Ghebreab ouder werd, ontdekte hij iets waarmee hij meer impact kon maken. Het begon in 2005 met een draaideur op het Amsterdam Science Park. Deze deur ging open voor de witte collega’s van Ghebreab, maar niet voor hem.

Hij vermoedde dat de algoritmen van de draaideur hem niet als mens herkenden vanwege zijn donkere huid. Het voorval bracht hem ertoe te onderzoeken of algoritmen door de mens veroorzaakte ongelijkheden zoals racisme versterken.

Samenwerken om AI te ontwikkelen

Een algoritme is geen ingewikkelde wiskundige formule en kan dus beïnvloed worden, zegt Ghebreab. ‘Het is in essentie een set van regels of instructies die berekenbaar zijn. In een algoritme kun je met behulp van codes iets stap voor stap uitvoeren om een bepaald doel te bereiken.’

Ghebreab heeft zelf ook een doel: hij wil sociale inclusie combineren met technologische groei. ‘Het is essentieel dat we samenwerken met kennisinstellingen, overheden, het maatschappelijk middenveld en individuen van alle achtergronden. Hoewel AI het vermogen heeft om van zichzelf te leren en te verbeteren, is het uiteindelijk echt aan ons allemaal om ervoor te zorgen dat het goed wordt ontwikkeld.’

Zijn werk wordt veel opgemerkt sinds 2015. Google lanceerde toen een app waarbij zwarte mensen als apen werden gecategoriseerd. Fabrikanten gebruiken vaak data die niet representatief zijn voor alle nationaliteiten in een samenleving. Met andere woorden: het kan niet herkennen wat je niet hebt ingevoerd. Met uitsluiting en discriminatie als gevolg.

Datagedreven strijd

Ghebreab zette het Civic AI Lab op om de strijd tegen discriminatie tegen te gaan. In de komende periode richt hij zich op de oprichting van zijn AI-onderzoekslab. Hij onderzoekt hoe een algoritme ontwikkeld kan worden dat niet discrimineert. Transparantie over hoe data tot stand komen, is daarbij een belangrijk uitgangspunt. Zo kan getraceerd worden waarom een bepaalde beslissing is genomen.

Volgens Sennay Ghebreab moet het oogpunt in een diverse samenleving zijn dat de verschillen tussen mensen omarmt worden en we daar op moeten bouwen. ‘Anders wordt het straks in de door techbedrijven geleide wereld een grote eenheidsworst. Allemaal mensen die hetzelfde denken en doen. Maak de strijd voor gelijkheid niet een emotionele strijd, maar een datagedreven strijd.’