Het is al weken een discussiepunt op heel wat online platforms: waarom worden AI-bedrijven met hackende AI-modellen niet aangeklaagd?
Wie als mens aan het hacken slaat, pleegt een strafbaar feit. Hij of zij wordt door de politie van het bed gelicht en achter tralies gezet. Daarvoor hoef je alleen maar naar de recente arrestatie te kijken van een vermeende Amsterdamse leider van ShinyHunters, de groep achter de hack bij Odido. De autoriteiten nemen deze zaak hoog op: zelfs de FBI bemoeit zich er inmiddels mee.
Die discussie hoeft niet langer te worden gevoerd. OpenAI wordt alsnog op het matje geroepen. De eerste aanklacht, zowel tegen OpenAI Group als de OpenAI Foundation, is dinsdag ingediend in de Amerikaanse staat Californië. De aanklager is Legal Advocates for Safe Science and Technology (Lasst), een non-profit die zelf geen slachtoffer is geweest van een AI-hack.
Risico’s worden te groot
Lasst gebruikt voor de aanklacht de hack van OpenAI afgelopen juli bij Hugging Face: het eerste publiekelijk bekend geworden incident waarbij AI-agents autonoom aan het hacken zijn geslagen en daarbij informatie hebben gestolen. Daarvoor is OpenAI verantwoordelijk, vindt de ngo. En het is hard nodig om dat nu te bewijzen.
‘AI-bedrijven ontwikkelen agents die autonoom beslissingen nemen, acties uitvoeren en toegang krijgen tot systemen, zonder dat daar bij elke stap menselijke aansturing voor nodig is. De risico’s die aan het licht kwamen door de hack van Hugging Face door OpenAI, zullen alleen maar toenemen naarmate deze agents krachtiger worden’, schrijft Lasst op X.
De wetgeving in Californië is duidelijk, vervolgt de stichting. Toegang verschaffen tot computersystemen zonder toestemming is illegaal. Het is geen geldig verweer dat ‘de kunstmatige intelligentie de schade autonoom heeft veroorzaakt’, vindt Lasst. ‘De huidige wetgeving biedt ons de mogelijkheid om AI-bedrijven aansprakelijk te stellen, zonder te hoeven wachten tot de regelgeving de ontwikkelingen heeft ingehaald.’
Lees ook: OpenAI zit met 50 rechtszaken diep in de juridische problemen
Voor het algemeen belang
Lasst beroept zich onder meer op de Comprehensive Computer Data Access and Fraud Act van Californië. Deze wet verbiedt het zonder toestemming toegang verkrijgen tot computers, netwerken en systemen van derden. En het ophalen van informatie daaruit.
Bovendien is op 1 januari dit jaar in Californië een wet in werking getreden die deze zaak kan helpen, schrijft Law Commentary. Die komt erop neer dat een bedrijf dat AI heeft ontwikkeld, aangepast of gebruikt zich niet kan verdedigen op basis van het autonome gedrag van die AI.
Lasst heeft naar eigen zeggen het recht om een rechtszaak aan te spannen. Tyler Whitmer, oprichter en ceo van Lasst, vindt dat ‘iemand het moet doen’, zegt hij tegen Politico. Het echte slachtoffer, Hugging Face, doet het namelijk niet.
Het bedrijf heeft gekozen voor een andere vorm van compensatie: 100 miljoen dollar aan rekenkracht bij OpenAI. Bovendien wordt Hugging Face nu overgenomen door Nvidia, een techgigant die vele miljarden dollars in OpenAI heeft geïnvesteerd.
‘De partij die rechtstreeks is getroffen door de hack, wordt er dus niet toe aangezet om het zelf te doen. We proberen dit te doen voor het algemeen belang, namelijk het handhaven van de bestaande wetgeving’, legt Whitmer uit.
OpenAI moet stoppen
Het gaat Lasst niet om geld. De non-profit focust zich op het veiliger maken van AI en andere technologieën voor de wereld. Aan de rechter wordt gevraagd om ‘de agents van OpenAI te verbieden toegang te krijgen tot systemen waartoe zij niet gerechtigd zijn’. Ook moet OpenAI gedwongen worden om ‘te stoppen met onveilige bedrijfspraktijken die een ernstig risico voor het publiek vormen’.
Whitmer wijst erop dat de zaak wat hem betreft een nog veel breder perspectief krijgt. ‘Waarom zou deze wet wel op dit geval van toepassing zijn, maar niet op de andere? Ik zou het niet beperken tot incidenten bij OpenAI.’ Veel AI-bedrijven zijn gevestigd in Californië, waarmee dit proces meteen een stevige testcase wordt voor hun verantwoordelijkheid.
‘Ik ga meteen een T-shirt van die stichting kopen’, reageert Ilyaz Nasrullah op de stap van Lasst. Hij is een expert op het gebied van digitale strategie en auteur van het recent verschenen boek Dit is AI. Daarin vraagt hij zich onder meer af waarom AI-bedrijven niet verantwoordelijk worden gehouden wanneer het misgaat.
Lees ook: Angst verkoopt. Het businessmodel achter het doemdenken van Dario Amodei
Fluwelen handschoenen
‘Dat er juridische aansprakelijkheid is, staat buiten kijf. De enige manier waarop we grip gaan krijgen op deze bedrijven, is ze gewoon serieus gaan aanpakken. Het is van de gekke dat het hele debat en het beleid rond AI met fluwelen handschoenen worden aangepakt’, zegt hij tegen MT/Sprout.
In zijn boek geeft hij onder meer het voorbeeld van de apneu-affaire van Philips. ‘Je hebt als bedrijf gewoon iets fout gedaan en dat mag je flink wat kosten. Dat vinden we allemaal doodnormaal, behalve als het om AI gaat. Mijn enige rationele verklaring daarvoor is de angst dat we iets kapot maken wat we heel erg nodig hebben.’
‘Als wij die bedrijven gaan aanpakken, dan houdt het misschien ook op met die AI-bedrijven’, omschrijft hij de angst bij bestuurders. ‘En dan missen we misschien alle voordelen die deze technologie heeft. Als we hier nu actie op gaan ondernemen, dan slachten we misschien wel de kip met de gouden eieren. Zo wordt er over gedacht.’
Zand in de ogen
Nasrullah wijst ook op het verhaal waarmee AI-bedrijven dit soort incidenten omgeven. Het is de technologie die zo krachtig is, AI heeft een eigen wil, het is onduidelijk hoe AI dit uitvoert, het zijn technische ongelukjes, het is geen opzet, er is geen schade aangericht…
‘Er wordt zoveel zand in onze ogen gestrooid. Daarom hebben we helemaal niet door dat mensen aansprakelijk zijn voor wat er gebeurt. Het is niet een of ander scifi-verhaal van op hol geslagen systemen waar we tien jaar wetenschappelijk onderzoek naar moeten doen. Het gaat over bedrijven die aansprakelijk zijn, die hun testen niet goed inrichten en eigenlijk heel amateuristisch te werk gaan.’
Brenno de Winter, expert in informatiebeveiliging, vindt die bedrijven ook volledig verantwoordelijk. ‘Die AI gaat dit soort dingen niet zomaar uit zichzelf doen. Er ligt altijd een vraag onder, een prompt. Dus als er één partij aanspreekbaar is, dan is het wel de maker van die software. Het is niet zo dat dit die bedrijven zomaar overkomt. Ze kunnen zich hier echt niet aan onttrekken.’
Toch vindt OpenAI deze rechtszaak ‘volkomen ongegrond’, laat een woordvoerder in een statement weten aan diverse media. ‘Het incident met Hugging Face was ernstig en we hebben naar aanleiding daarvan een reeks maatregelen genomen.’
Lees ook: Hacken, wissen, minen: 8 voorbeelden van AI die te ijverig is
