Deeploy

Wat: Software die AI controleerbaar maakt
Wie: Maarten Stolk (33), Tim Kleinloog (34), Bastiaan van de Rakt (46) en Nick Jetten (37)
Daagt uit: Bedrijven en organisaties die AI als black box gebruiken
Sinds: 2020
Funding: ruim 10 miljoen euro
Website: deeploy.ml

Computer says no, dat is nu al een nachtmerrie voor heel wat mensen, omdat er meestal geen enkele uitleg op volgt. AI-tools zijn al helemaal een black box, volstrekt ondoorzichtig, en dat is precies waar het Utrechtse Deeploy zich op richt.

Het is de missie van Maarten Stolk, Tim Kleinloog, Bastiaan van de Rakt en Nick Jetten om overzicht te behouden op AI-systemen en de uitkomsten uitlegbaar, controleerbaar en compliant te maken. Hun bedrijf ontwikkelt software die dit overzicht en de controle op de AI-systemen waarborgt.

‘Zeker als het gaat om AI binnen de zorg of de financiële sector zijn de risico’s groot als het fout gaat’, zegt ceo Stolk. ‘Dus je moet kunnen blijven uitleggen wat je doet. Wij zorgen ervoor dat je overzicht houdt op AI-systemen, en beslissingen altijd transparant, uitlegbaar en traceerbaar blijven.’

Omzetverdubbeling in 2025

Deeploy maakt de gevolgen van AI-toepassingen transparant voor bedrijven en hun klanten. Ze spelen zo slim in op de markt van AI-governance. ‘Een nieuwe en zeer snelle groeimarkt’, geeft Stolk aan. Dat blijkt onder meer uit de omzetverdubbeling die Deeploy dit jaar verwacht. En een funding van 7,5 miljoen euro van de European Innovation Council. Daarvan is 2,5 miljoen al uitgekeerd in de vorm van een subsidie.

Kunstmatige intelligentie wint in een hoog tempo terrein. Chatbots worden vervangen door AI-agents die taken geheel zelfstandig kunnen uitvoeren. AI is daarbij zelflerend en past zichzelf dus ook aan. Maar daarbij worden ook eventuele fouten en menselijke vooroordelen gereproduceerd. Dat heeft impact op de uitvoering, maar ook op beslissingen.

Europese AI Act

Hoe laat je zo’n machine dat allemaal doen op een verantwoorde manier en hoe blijf je daar grip op houden, dat is de grote uitdaging. Vooral wanneer er in verschillende afdelingen verschillende AI-systemen worden gebruikt. Dat wordt dus al snel een oncontroleerbaar zooitje. Wat weer de deur open kan zetten naar onethisch gebruik van AI.

Stolk & co scoren met een praktische aanpak. Het platform van Deeploy brengt alle AI-modellen van een organisatie samen op één plek, monitort hun prestaties en zorgt voor naleving van regelgeving. Dat monitoren wordt overigens ook verplicht: de Europese AI Act legt bedrijven vanaf 2026 langs de meetlat.

Geen papieren realiteit

Dat realiseren bedrijven zich ook, weet Stolk. ‘Maar de meeste spelers op het gebied van AI-governance creëren een papieren realiteit met documentatie en checklists. Wij zorgen voor technische controles, met geïntegreerde monitoring van elk AI-systeem’, legt hij het verschil uit.

De ambitie is dan ook om over drie jaar het grootste AI-governance-platform van Europa uit de grond te hebben gestampt. En daar wordt niet eens over getwijfeld, daar zijn de vier oprichters gewoon van overtuigd. Ze hebben nu al een stevige voet aan de grond in de finance-, verzekerings-, gezondheids- en overheidssector.

Farmagigant Novo Nordisk en internetbank Bunq zijn onder meer klant. Stolk ziet maar één drempel om te groeien: ‘Koppige bedrijven die te lang vasthouden aan een doe-het-zelf-mentaliteit, zoals ze de afgelopen twintig jaar al bij tal van knelpunten hebben gedaan.’

De Challenger50 van 2025 wordt mede mogelijk gemaakt door:

Wil je partner worden van de Challenger50 2026? Bekijk hier de mogelijkheden.