Olivia Gambelin is opgegroeid in Silicon Valley en studeerde filosofie in Schotland. Ze richtte in 2019 haar bedrijf Ethical Intelligence op, een consultancybedrijf voor artificiële intelligentie (AI), waar ze ceo van is.
Ze heeft in Brussel bovendien een flinke vinger aan de pols bij het ontwikkelen van Europese regelgeving rond AI. Hoogste tijd dus voor een interview met MT/Sprout.
Wat is ethiek voor jou?
‘Voor mij is ethiek een tool voor besluitvorming. Iets wat we al dagelijks gebruiken, maar wat we ook zouden moeten gebruiken voor technologie. Alleen gebeurt dat nu nog veel te weinig.’
‘Ethiek gaat over risico’s beperken: welk risico loop je door AI-systemen te bouwen? Tegen welke slechte of schadelijke gevolgen moet je je beschermen? Ethiek is niet retroactief, maar een preventieve, risicobeperkende mindset. ‘
Als je aan nieuwe technologie werkt, dan is ethiek het eerste waar je over moet nadenken
‘De andere kant van ethiek, en die wordt nogal eens vergeten, is dat het een proactieve tool is voor innovatie. Het laat je toe om te onderzoeken of je features of ontwerpen van AI in lijn liggen met onze menselijke waarden. Als dat niet zo is, hoe krijgen je ze daar dan wel mee in lijn? Hoe pak je dat aan? Daar komen innovatieve oplossingen uit.’
Wat zijn de hot topics vandaag in ethiek rond AI?
‘De focus op privacy, transparantie en eerlijkheid of fairness. Er zijn verschillende tools ontwikkeld om structurele vooroordelen te bestrijden, om eerlijkere algoritmes te creëren. Maar er is ook veel discussie over. Hoe maken we die tools gedetailleerd genoeg om ze praktisch te gebruiken?’
Is daarom ethiek as a service (EaaS) bedacht?
‘Ja, as a service is al een bekende term rond software en mobiliteit. Daarom bieden wij ethiek as a service aan. Voor ons is ethiek namelijk ook een tool die je 24 uur per dag, zeven dagen per week online kan gebruiken.’
Zien bedrijven dat ook zo?
‘Dat is inderdaad een spannende verschuiving voor ons. Een tijdlang werd ethiek gezien als iets voor de academische leunstoel. Nu zijn bedrijven op het punt gekomen, dat ze snappen dat ethiek belangrijk is. Ze beginnen dus uit te zoeken wat zo’n tool is en hoe het in de praktijk werkt.’
‘Als je aan nieuwe technologie werkt, dan is ethiek het eerste waar je over moet nadenken. Dat is zo’n belangrijke component, dat moet gewoon onderdeel zijn van je ontwikkelingsproces.’
Je bent zelf ook opgeschoven, van het begeleiden van corporates naar startups. Waarom?
‘Dat was vooral een strategische beslissing. Grote én kleine bedrijven kunnen ethiek goed gebruiken. Startups ontwikkelen vaak de nieuwste technologie en die wordt vervolgens gekocht door de grote bedrijven.’
Veel van de grote dilemma’s voor startups gaan over data verzamelen
‘Zij zijn dus degenen die echt nood hebben aan het gebruiken van ethiek. Dat is waar wij zijn ingestapt en waar wij de leiding willen nemen. Wij zijn meteen actief aan de bron, wij kunnen die steun bieden en wij hebben een tool.’
Welke tools heb je inmiddels ontwikkeld?
‘We zijn gestart als consultants, met het bijeenbrengen van informatie en experts, want niemand deed dat nog. Dat was onze eerste focus. Nu is onze belangrijkste tool de ethics board. Dat is een platform waar je je eigen board kan opzetten en managen.’
‘Je zet het eigenlijk als ethisch comité naast je team tijdens het ontwikkelen van je technologie. Het is een centraal platform, waar je gelinkt wordt aan de juiste experts uit ons netwerk.’
‘Onze methodologie voor het toepassen van ethiek is volledig verwerkt in dit platform. Je wordt door het proces geleid, in sommige gevallen brengen we specifieke raamwerken in, soms andere tools, zoals trainingen en workshops. Het omvat dus heel wat, maar het is eigenlijk een vrij simpele oplossing.’
Welke ethische dilemma’s kom je het meeste tegen bij startups?
‘Veel dilemma’s gaan over de technologie die ze gebruiken of de industrie waar de technologie voor wordt ontwikkeld, maar die zijn heel specifiek. Zo’n specifiek, maar heel bekend dilemma is de verwerking van taal.’
‘De technologie hiervoor is heel rigide en past zich niet aan, denk bijvoorbeeld aan het herkennen van Engels als moedertaal en als tweede taal. Dat lukt niet, maar de effecten daarvan werken wel verder door in andere technologie.’
‘Veel van de grote dilemma’s voor startups gaan over data. Mogen we die verzamelen, mogen we die gebruiken? Dat zie je overal. AI heeft data nodig, maar vaak worden bedrijven dan geconfronteerd met moeilijke beslissingen.’
Zonder tijd en middelen om even een stap terug te zetten, ontstaat ethisch wegdrijven
‘Bijvoorbeeld: legaal is het mogelijk om deze data te verzamelen, maar profiteren we zo niet van onze gebruikers? Zou ik me er zelf comfortabel bij voelen als ik zou weten dat deze informatie over mij wordt verzameld?’
‘Andere dilemma’s gaan over het morele kompas. Startups beginnen met grote dromen en torenhoge ambities. Daarbij vinden ze hun waarden ook belangrijk, maar alles gaat zo snel. Ze moeten constant beslissingen nemen.’
‘Ze hebben geen tijd en geen middelen om even een stap terug te zetten en na te denken of deze beslissingen in lijn liggen met hun waarden. Daardoor krijgen ze te maken met ethisch wegdrijven. Ze drijven langzaam weg van hun originele waarden.’
Moet je dan vaak nee zeggen?
‘We zeggen maar heel weinig nee. We zeggen wel vaak: laten we het anders doen. Het zijn vaak ook slimme mensen waar we mee werken. Wij vertrekken altijd vanuit de aanname dat startups de beste beslissing willen nemen en trouw willen blijven aan hun waarden.’
Hoe krijg je de meestal praktische techjongens aan jouw kant?
‘Dat kan met gesprekken gebeuren, waar mensen met een zware beslissing zitten en niet zeker weten wat ze er ethisch mee aan moeten. We begeleiden ze dan door hun denkproces.’
‘Er kan bij zo’n gesprek een datawetenschapper zitten die vraagt of hij bepaalde data mag verzamelen. Wij vragen dan waarom hij die vraag eigenlijk stelt. Wat klopt er niet? Ben je er niet zeker van dat een gebruiker deze informatie wil delen? We checken dat buikgevoel en zijn een klankbord voor ze.’
Waarom stel je die vraag? Wat klopt er niet? We checken dat buikgevoel
‘Ethiek vraagt tijd, maar ook een mentale inspanning. Ik zie ons als een computer die helpt bij het verwerken. Een startup moet een beslissing nemen, maar heeft geen idee over de richting. Oké, laat het bij ons achter, onze experts bekijken het.’
‘Ze komen terug met drie richtingen die je kan nemen. Deze richting sluit het dichtste aan bij je waarden. Elke richting heeft voor- en nadelen, en dit zijn de potentiële gevolgen. Hier gaat het meer om bewijzen, om uitleggen wat de beslissing betekent en wie die dient te nemen.’
‘Het is ook bemoedigend om de transformatie te zien wanneer zo’n team onze tools begint te gebruiken en de waarde van ethiek begint te begrijpen. Je ziet ze bijna een zucht van verlichting slaken. Ja, ik weet nu dat ik de juiste beslissing neem. Ik heb vertrouwen in min technologie en in mezelf.’
Kan je ethiek ook inzetten als concurrentievoordeel?
‘Ja, en dat hoeven niet eens technische oplossingen te zijn. Een van onze klanten heeft bijvoorbeeld een training over ethiek rond AI online gezet voor hun community van ontwikkelaars.’
‘Het ging over hun nieuwe open source technologie en de gebruikers leerden zo welke ethische verantwoordelijkheden aan deze technologie gekoppeld waren. Het bedrijf maakt hiermee nu het onderscheid bij hun community van ontwikkelaars.
Het mens zijn op zich hoeft echt niet gestandaardiseerd te worden
Een ander bedrijf werkte op het labelen en categoriseren bij het matchen van profielen. We hebben de vooroordelen eruit gehaald, we hebben gecheckt voor fairness, dat was allemaal goed. Maar hoe maken we dit proces nog holistischer en menselijker?
Kan je het algoritme meer doen dan alleen feitelijke gegevens en de eenvoudige aannames verzamelen die we erin hebben geprogrammeerd? Die holistische en meer menselijke toevoeging verhoogde de effectiviteit van de matching met 15 procent.’
Moeten we dat menselijke juist niet beschermen?
‘Ja, natuurlijk. Het mens zijn op zich is al messy. Dat is niet iets wat gestandaardiseerd moet worden. Er zit een schoonheid in verschillende benaderingen van het leven, in verschillende systemen, in verschillen in de manier waarop we functioneren. We hebben dus ook technologie nodig die dat weerspiegelt.’
Honger naar meer over artificial intelligence? Check dan ook deze artikelen:
- Dankzij AI wordt de kerntaak van hr: je organisatie verkopen aan de beste kandidaat
- Deze strategische stappen zijn nodig om te groeien met kunstmatige intelligentie
- Framing: de superkracht van de mens in een tijdperk vol artificiële intelligentie
