#1 Wat is de EU AI Act en hoe revolutionair is de wet?
Van het Sinterklaasgedicht dat je door ChatGPT laat schrijven tot de slimme camera’s die in supermarkten in de gaten houden of klanten niets stelen – artificiële intelligentie (AI) is overal. De technologie is zo alomtegenwoordig en zo vanzelfsprekend geworden dat je het niet eens meer ziet, zegt Frans Feldberg, professor Data Driven Business Innovation aan de Vrije Universiteit Amsterdam, op Radio 1. ‘AI is een systeemtechnologie geworden. Net als elektriciteit.’
Met de gigantische vlucht die kunstmatige intelligentie heeft genomen, neemt ook de enorme hoeveelheid data toe die burgers, bedrijven en overheden aan big tech overdragen. In 2024 bereikten Europese wetgevers een akkoord over een wet die erop moet toezien dat die gegevens niet worden misbruikt: de EU AI Act.
Europa maakte het ronkend kenbaar toen de wet werd aangenomen. Er werd gestrooid met termen als ‘baanbrekend’ en ‘een mijlpaal’ en dat klopt ook wel. De Verordening (EU) 2024/1689, zoals de wet voluit heet, is de eerste wet wereldwijd die kunstmatige intelligentie op grote schaal reguleert, in de hoop dat daarmee een internationale standaard wordt neergezet.
Lees ook: Nieuwe Europese AI Act: ‘Bedrijven beseffen niet wat de impact is voor recruitment’
Volgens Feldberg is responsible AI een thema waarop Europa zich expliciet probeert te profileren. ‘Er wordt weleens gezegd dat we het hebben verloren van China, waar op grote schaal data over mensen wordt verzameld, en de big tech-organisaties in Amerika. Europa heeft als antwoord daarop duidelijk gezegd: wij willen ons juist profileren op verantwoorde AI.’
#2 Waarom is Europese AI-wetgeving nodig?
De bestaande wetgeving voldeed volgens de Europese Commissie niet om ‘specifieke uitdagingen’ aan te pakken die AI-systemen met zich kunnen meebrengen. Neem bijvoorbeeld de slimme deurbel. Die heeft een camera en is verbonden met het internet, zodat je via een app kunt zien wie er voor je deur staat.
Hartstikke handig, maar die beelden worden ook opgeslagen in de cloud, beelden waarop tot in detail te zien is wat er bij de huizen van mensen gebeurt. De vraag is wat de grote techbedrijven erachter – Amazon en Google zijn de grootste aanbieders van slimme deurbellen – met die data doen. Verkopen aan derden, die bewoners op basis van de informatie op de beelden gericht targetten?
Dat is nog een relatief onschuldig voorbeeld. AI kan ook worden ingezet mensen met bepaalde uiterlijke kenmerken uit een groep te pikken – de link naar discriminatie en racisme is dan snel gelegd – of om ze te manipuleren. Tijdens verkiezingen bijvoorbeeld, of in het publieke debat.
Lees ook: Nieuwe baan? ChatGPT raadt vrouwen aan tot 120.000 dollar minder salaris te vragen
De EU AI Act moet een kader scheppen met basisregels waarop kan worden getoetst, zodat bedrijven bij overtredingen kunnen worden beboet. En die boetes zijn fors: die kunnen oplopen tot 35 miljoen euro of 7 procent van de jaaromzet van een bedrijf.
De AI Act doet dit door AI in risicocategorieën te verdelen (onacceptabel risico, hoog risico, beperkt risico en minimaal of geen risico) en per categorie via bepalingen en verplichtingen aan te geven wat verboden is en wat is toegestaan, en onder welke vereisten.
Niet alleen wil de Commissie op deze manier de grondrechten van burgers beschermen, de wet moet ook de ontwikkeling en toepassing van veilige en betrouwbare AI-systemen bevorderen en de Europese investeringen in AI aanjagen.
#3 Wat betekent de AI Act concreet voor bedrijven?
AI-systemen met een onacceptabel risico, die een directe bedreiging voor burgers vormen, zijn per 2 februari 2025 verboden. Social scoring bijvoorbeeld, AI die mensen op basis van een bepaalde ‘score’ – gedrag of persoonlijke kenmerken – selecteert of juist uitsluit.
Op 2 augustus 2025 treedt de tweede fase in werking. Vanaf dat moment moeten bedrijven die gebruik maken van AI in de ‘beperkt risico’-categorie aan de richtlijnen van de AI Act voldoen. Het gaat hier bijvoorbeeld om chatbots die zich als mens voordoen en content die met general purpose AI (GPAI) als ChatGPT is gemaakt.
Lees ook: ‘Explosieve groei’ van AI-agents verandert hoe bedrijven werken
De belangrijkste voorwaarde is transparantie: klanten moeten weten dat ze niet met een echte klantenservicemedewerker praten, maar met een AI-agent. Of dat het model in een campagneshoot uit de computer komt. Zoals de AI-gegenereerde blondine in de Guess-reclame, die deze week in het modeblad Vogue stond.
#4 Een groep Europese bedrijven riep begin juli op tot uitstel. Is die oproep terecht?
De snelle opkomst van general purpose AI laat ook zien dat de ontwikkelingen op het gebied van kunstmatige intelligentie eigenlijk te snel gaan om in wetgeving te vatten. GPAI kwam pas op nadat het oorspronkelijke commissievoorstel was gelanceerd, en moesten er daarna nog even snel als nieuwe risicocategorie worden ingefietst.
Anne Meuwese, hoogleraar Public Law & Governance of Artificial Intelligence, en Johan Wolswinkel, hoogleraar bestuursrecht, stellen dat de wet om die reden alweer verouderd is. En ook vanuit het bedrijfsleven komt kritiek. De ceo’s van 44 grote Europese bedrijven riepen begin juli op om de uitrol van de tweede fase met twee jaar uit te stellen. Ze vrezen ‘overlappende en complexe regelgeving’ en pleiten voor een ‘innovatievriendelijk’ pakket.
Ook klagen de topmannen van onder meer Philips, ASML, Airbus, BNP Paribas en Mistral dat snelheid boven kwaliteit zou gaan. In haar haast om de wet in te voeren, heeft de Commissie volgens de ceo’s nagelaten om belangrijke normen op te stellen, waaronder een gedragscode met instructies voor geavanceerde AI-bedrijven om aan de regels te voldoen. Begin juli waren werkgroepen volgens Bloomberg nog altijd bezig met het uitwerken van gedetailleerde richtlijnen.
Een week later volgde de gedragscode alsnog en zwol de kritiek opnieuw aan. Google zegde toe zich aan de regels te committeren, maar Meta weigert vooralsnog om de gedragscode te ondertekenen, uit vrees dat deze ‘innovatie zal verstikken’.
Lees ook: Waarom Nederland dringend een AI-Deltaplan nodig heeft
