Het was simpelweg té krachtig om zomaar op de markt te gooien. Dat zegt AI-bedrijf Anthropic over Mythos, een nieuw en krachtig taalmodel van het bedrijf achter Claude. Het model, dat voluit Claude Mythos Preview heet, blinkt niet alleen uit in het opsporen van kwetsbaarheden van software, het kan ook zelfstandig een programma schrijven om die te misbruiken voor een cyberaanval.
Potentiële cyber-kernbom
Dat maakt Mythos ronduit gevaarlijk, aldus de maker, een potentiële ‘cyber-kernbom’ als het in verkeerde handen terechtkomt. Hackers kunnen hun malafide werk straks automatiseren op grote schaal. Aanvallen op de infrastructuur van energiebedrijven, de gezondheidszorg en banken worden een peulenschil.
De belangrijkste besturingssystemen waarop computers en smartphones draaien, grote webbrowsers: Mythos heeft er duizenden zogeheten kwetsbaarheden gevonden, ofwel gaten, die nog niet bekend waren. Zelfs in software die al decennia op de conventionele manier op de proef is gesteld door hackers en beveiligers.
Lees ook: Anthropic-oprichter Dario Amodei slaat alarm: ‘We zijn nog niet volwassen genoeg voor AI’
Anthropic profileert zichzelf als een AI-bedrijf dat zijn verantwoordelijkheid serieus neemt. Het waarschuwt daarom vooraf, en beperkt de toegang tot Mythos voorlopig tot een select groepje gebruikers. Grote techbedrijven als Amazon, Google, Microsoft, beveiligingsbedrijven en ook de bank JPMorganChase konden het model inzetten om de gaten in hun eigen IT-systemen te vinden en dichten.
Pas als alle gaten voldoende zijn gedicht, zou Anthropic de nieuwe AI-tool willen vrijgeven aan het grote publiek.
Bankenwereld bijna in paniek
Inmiddels zorgt Mythos bijna voor paniek in een sector waar IT-beveiliging cruciaal is: de bankenwereld. Tijdens de voorjaarsbijeenkomsten van het Internationaal Monetair Fonds (IMF) en de Wereldbank was het de talk of the town, een onderwerp dat de oorlog in het Midden-Oosten bijna verdrong.
‘De ontwikkeling van digitale technologie brengt enorme risico’s met zich mee vanuit het oogpunt van cyberveiligheid’, zei Dan Katz, plaatsvervangend hoofd van het IMF, tegen de Financial Times. ‘Dit wordt de komende maanden absoluut essentieel op de internationale agenda.’
Ook Christine Lagarde, president van de Europese Centrale Bank, wordt door de Britse zakenkrant geciteerd: ‘De ontwikkeling die we met Anthropic en Mythos hebben gezien, is een goed voorbeeld van een verantwoordelijk bedrijf dat opeens denkt: “Aha, dit zou wel eens heel goed kunnen zijn!” Maar als het in de verkeerde handen valt, kan het heel slecht uitpakken.’
Securitywaakhond: directe actie nodig
In Nederland waarschuwde het Nationaal Cyber Security Centrum, dat onder het ministerie van Justitie en Veiligheid valt, bedrijven ook voor AI-modellen zoals Mythos. Hoewel dat nog niet op de markt is, zegt het NCSC toch dat er ‘directe actie’ nodig is.
‘Belangrijk is dat vergelijkbare capaciteiten bij bijvoorbeeld andere AI-modellen naar verwachting snel breder beschikbaar komen’, schrijft het cybersecuritycentrum. ‘De versnelling die we hier zien, blijft niet beperkt tot een paar partijen.’
Lees ook: 5 AI-risico’s die bedrijven echt onderschatten
Dat laatste bevestigt Olivier Beg, die met securitybedrijf Hadrian ‘grote enterprises’ helpt hun systemen te beveiligen. ‘Mythos is ongetwijfeld heel krachtig, maar ook heel duur. Je kunt met kleinere taalmodellen die al langer in omloop zijn hetzelfde bereiken als je die specifieke taken geeft.’
Meer gaten sinds taalmodellen
Wat dat betreft is Mythos vooral een ultieme wake-up call: de taalmodellen die zulke leuke plaatjes en teksten konden maken, zijn het afgelopen jaar ook heel goed geworden in software programmeren en softwarecode analyseren op fouten. Maar dus ook op het vinden van de gaten die – als je daar een stukje software op loslaat – geschikt zijn om in te breken in bijvoorbeeld een database.
‘We merken sinds de opkomst van taalmodellen dat er heel veel meer van dergelijke kwetsbaarheden worden gevonden en gemeld’, zegt Beg. Zo’n nieuw beveiligingslek wordt in de regel geregistreerd zodat de hele securitywereld op de hoogte is. ‘Maar de organisaties die dat bijhouden hebben het nu zó druk, dat het wel even duurt voordat dat gebeurt.’
Korter de tijd om in te grijpen
Vooral de snelheid waarmee IT-beveiligers moeten werken is door de LLM’s, de Large Language Models waarvan Claude, ChatGPT en Gemini van Google de bekendste zijn, veranderd. ‘Er is niet heel veel kennis meer nodig om een kwetsbaarheid op te sporen, dat kun je overlaten aan AI. Daarom is het des te belangrijker geworden om zo’n gat snel te dichten.’
Beg is vier jaar geleden gestart met Hadrian, in 2023 Startup van het Jaar en inmiddels een bedrijf met 100 medewerkers. Zijn scaleup houdt klanten continu op de hoogte van nieuwe kwetsbaarheden en neemt hun systemen daarvoor zelf continu onder vuur.
Lees ook: Hadrian-oprichter Olivier Beg: van ethische hacker tot Startup van het Jaar
‘Destijds zat er gemiddeld 72 uur tussen de ontdekking van een gat en de eerste aanval daarop, oftewel exploit’, zegt hij. ‘Nu is dat 16 uur. Het kan binnen een jaar wel naar 2 of 3 uur gaan. Je hebt dus steeds korter de tijd om in te grijpen.’
Organisaties moeten voorbereid zijn
Vaak is een gat met een extra regeltje softwarecode al gedicht. ‘Maar je moet dan wel exact weten waar het zit, wie verantwoordelijk is voor de bewuste software en iemand vinden die het programma aanpast’, waarschuwt Beg. Binnen een groot bedrijf met een wirwar aan software en tools kan dat wel even duren. ‘Veel hangt af van de organisatie. Als de IT-afdeling op vrijdag zegt: “Het is 17.00 uur, we gaan naar huis” kunnen ze maandag een behoorlijke chaos aantreffen.’
Of het al eens op die manier is misgegaan bij een klant? ‘Het gebeurt. Het is voor elke organisatie belangrijk om te weten wat je aan systemen in huis hebt. Vervolgens moet je in kaart brengen wie er de eigenaar van is. En tot slot moet je een plan hebben hoe je het gaat oplossen als er een kwetsbaarheid wordt ontdekt.’
Kat-en-muisspel tussen hackers en IT
Het werk van beveiligers en de ethische hackers, zoals die ook bij Hadrian werken, is er drukker van geworden – Begs scaleup groeit in ijltempo. Maar de essentie van het vak is niet veranderd, zegt hij. Security is een kat-en-muisspel waarin kwaadwillende hackers je systemen continu onder vuur nemen en het zaak is om elk lek te vinden en op tijd te dichten.
Een wapenwedloop in feite, die sinds de komst van LLM’s met zwaar geschut wordt gevoerd. ‘Het was ooit een human to human-race. Nu is het een AI to AI-race.’
Lees ook: Odido-hack staat niet op zichzelf: AI-gedreven cyberaanvallen overspoelen Nederlandse bedrijven
Inmiddels is er ook volop kritiek op de alarmberichten van Anthropic over zijn eigen product. Sam Altman, ceo en oprichter van de grote concurrent OpenAI, doet het af als angstmarketing: ‘We hebben een bom gebouwd en we staan op het punt deze op je hoofd te laten vallen. We verkopen je een schuilkelder voor 100 miljoen dollar’, smaalde hij deze week.
Mythos heeft geen harnas
‘Is het goede marketing? 100 procent’, zegt ook Joep Gommers. Hij is medeoprichter van security scaleup EclecticIQ en bouwt inmiddels aan een nieuw bedrijf dat het werken met AI-agents soepeler – en vooral veilig – belooft te maken. ‘Dat wil zeggen: als het werkelijk een soort kernbom zou zijn. Maar de ontwikkeling van taalmodellen gaat lineair: ze worden telkens iets beter, en zo is Mythos ook weer een stapje beter dan zijn voorgangers.’
Het grote verschil: Mythos zit niet in het keurslijf, het harnas, dat bij andere modellen voorkomt dat je ze voor kwalijke zaken gebruikt. Het recept voor een atoombom zal ChatGPT je bijvoorbeeld nooit geven. Maar dus ook niet de softwarecode waarmee je een zwakke plek in een IT-systeem kunt misbruiken.
‘Mijn collega was dat met het huidige Claude-model aan het testen’, zegt Gommers. ‘Zijn account werd meteen gewist.’
Enorm veel nieuwe software door AI
Dat Anthropic de teugels laat vieren, bezorgt de IT-beveiligers dus wel extra veel werk. Maar Gommers wijst op een ander gevaar van AI. ‘De enorme hoeveelheid nieuwe software die daarmee wordt gemaakt, en lang niet altijd van even goede kwaliteit. Dat is echt een nieuwe extra uitdaging.’
Lees ook: AI ziet zak chips voor pistool aan – en 6 andere megablunders met kunstmatige intelligentie
‘De meeste systemen waarmee we werken, zijn een jaar of 20 geleden ontstaan met de opkomst van internet. Dat leverde de securitybranche in die tijd een hele hoop werk op, maar ze zijn inmiddels behoorlijk veilig, alle gaten zijn wel ontdekt en gedicht. De komende tien jaar zitten we in dezelfde situatie.’
Nieuwe manieren van beveiligen nodig
‘Sterker nog: we moeten nieuwe manieren van beveiliging verzinnen. Want software die door AI wordt gemaakt, zit niet altijd even logisch in elkaar. En als je een deur weet te sluiten voor een hackende AI-agent, geeft die niet zomaar op. Die blijft in een ongelofelijk tempo andere wegen verzinnen. Terwijl elke hacker daar honderden van aan het werk kan zetten.’
Dus is de wereld onveiliger geworden voor bedrijven? ‘Absoluut. Door de AI die hackers kunnen inzetten, maar dus ook door de nieuwe software die overal in je bedrijf wordt gemaakt met AI. En tot slot door de snelheid waarmee alles gebeurt. Je hebt nu op je security-afdeling nog mensen die met elkaar overleggen, berichten moeten typen als er een beveiligingsissue is. Maar waar je voorheen weken had op iets op te lossen, kan het straks binnen minuten fout gaan.’
