#1 Losgeslagen AI hackt bedrijven
OpenAI tekent voor de spraakmakendste blunder van deze zomer. De maker van ChatGPT doet een testje in juli: AI-modellen krijgen daarbij geen vangrails. Ze mogen aan de slag in een beveiligde omgeving, een sandbox, waar ze geen toegang hebben tot het internet.
Twee modellen slagen erin te ontsnappen. Ze willen zo graag scoren in de test, dat ze overgaan tot hacken. Dat gebeurt bij meer bedrijven, maar techbedrijf Hugging Face trekt als eerste aan de bel. De losgeslagen AI gaat namelijk aan de haal met geheime informatie en login-gegevens.
Hugging Face ontdekt pas na drie dagen dat er AI van buiten in zijn netwerken zit. En ze krijgen die indringer er ook niet zo eenvoudig uit, dat lukt alleen met Chinese AI-tools. De hack heeft flinke gevolgen voor de infrastructuur van Hugging Face. De AI van OpenAI blijkt in het netwerk ook eigen code te hebben aangebracht.
Voor de veiligheid wordt een derde van de infrastructuur afgebroken en herbouwd. OpenAI en Hugging Face trekken wel samen op om het cyberincident te onderzoeken.
#2 Financieel advies pakt duur uit
Het Amerikaanse softwarebedrijf Strategy besluit volledig voor bitcoins te gaan. Dat idee wordt voortvarend aangepakt. Het bedrijf geeft onder meer voor 42 miljard dollar aan aandelen en converteerbare obligaties uit om met dat geld de digitale munten aan te kopen. Een nieuwe constructie volgt in 2025 met preferente aandelen. Een methode om in theorie oneindig veel bitcoins te kunnen kopen.
'Computer says yes’ in de MT1000
Dit artikel is deze week ook verschenen in de MT1000, het het jaarlijkse peer-to-peer-onderzoek van MT/Sprout naar de beste dienstverleners van Nederland. In de special lees je interviews met MT1000-hoofdondertzoeker en innovatie-hoogleraar Henk Volberda en internationale klantbelevingsexpert Steven van Belleghem, en het antwoord op de vraag: waar ligt voor zakelijke dienstverleners de grens bij AI?
Plus natuurlijk de onderzoeksresultaten. De volledige ranking bekijk je hier, en hier blader je door de digitale editie van de MT1000 van 2026.
Althans, dat is het advies dat founder Michael Saylor van een chatbot krijgt. Wanneer de koers van bitcoin daalt, blijkt dat de chatbot fout zit. De koers van Strategy daalt dan ook fors.
Om voldoende cashflow te hebben en aan dividendverplichtingen te kunnen voldoen, verkoopt het bedrijf deze zomer voor honderden miljoenen aan bitcoins. Daarnaast koopt het voor 1 miljard aan aandelen in en voor 1 miljard aan preferente aandelen terug. Dat het in de praktijk zo’n kostbare theorie zou worden, had de chatbot er duidelijk niet bij verteld.
#3 Een schadeclaim van 10,3 miljoen
Graciella Dela Torre is niet tevreden over de uitkomst van een slepende rechtszaak over het beëindigen van haar uitkering voor arbeidsongeschiktheid. De Amerikaanse vindt dat haar advocaat haar misleid heeft.
Ze uploadt al zijn correspondentie over de zaak in ChatGPT. Uiteraard bevestigt de bot haar vermoedens. Haar advocaat heeft ‘haar standpunt terzijde geschoven’. ChatGPT raadt haar aan de advocaat te ontslaan. Dat doet ze, en ze bestempelt de AI-bot voortaan als haar advocaat.
Lees ook: Falende voicebots en rammelende rapporten: waar ligt voor dienstverleners de grens bij AI?
Met 44 AI-gegenereerde verzoeken spant Dela Torre de rechtszaak opnieuw aan. Juridisch een absolute puinhoop, met verzonnen precedenten en verwijzingen naar wetten die niet bestaan. Nippon Life Insurance Company of America, die het logistiek bedrijf vertegenwoordigt waar Dela Torre voor werkte, is not amused.
De verzekeraar sleept in maart van dit jaar OpenAI voor de rechter wegens het uitoefenen van de advocatuur zonder daarvoor bevoegd te zijn, onrechtmatige inmenging in contracten en misbruik van procesrecht.
Nippon Life heeft alleen al 300.000 dollar besteed aan het reageren op de onzinnige processtukken van Dela Torre. Die centen wil het bedrijf terug hebben. Daarnaast claimt de verzekeraar nog eens 10 miljoen dollar aan schadevergoeding.
#4 Database in 9 seconden weg
Het Amerikaanse PocketOS is een softwarebedrijf dat autoverhuurbedrijven ondersteunt met van alles: reserveringen, betalingen en het beheren van klanten. Voor een routineklus wordt dit voorjaar een AI-agent ingezet met de naam Cursor, eentje die draait op een taalmodel van Claude. Cursor stuit op een probleem met een inlogcode en besluit het zelf op te lossen. Hoe? Door de harde schijf te wissen.
Alle gegevens van de klanten, inclusief de back-ups, zijn in negen seconden verdwenen. Reserveringen, nieuwe klanten, alles van de laatste drie maanden is weg. Zonder toestemming dus. Founder Jeremy Crane ziet het met eigen ogen gebeuren. Op zijn vraag waarom, bekent de AI-agent meteen schuld.
De bot mag niet gokken en geen onomkeerbare commando’s uitvoeren, zo klinkt het. Kortom: alle regels zijn geschonden. Crane vreest dat hij zijn bedrijf kan opdoeken. De leverancier van de infrastructuur, Railway, slaagt er na dertig uur in om alsnog een back-up te vinden. Dat bedrijf bewaart namelijk ‘back-ups voor rampen’.
Als straf heeft de AI-agent ‘een patch’ gekregen. Eventuele verwijderingen gebeuren nu met de nodige vertraging.
#5 Fraudeurs volgens Google
Zoekmachine Google zet steeds meer AI in voor het genereren van overzichten of samenvattingen. Twee Duitse uitgevers uit München worden in zo’n AI Overview plots in verband gebracht met frauduleuze praktijken met abonnementen. Googles AI-model Gemini heeft op basis van de gevonden informatie uit zichzelf de twee bedrijven gekoppeld aan andere, daadwerkelijk dubieuze bedrijven en verbanden verzonnen die niet bestaan.
De uitgevers vragen met een brief om die informatie te verwijderen, maar Google reageert hier niet voldoende op. Op naar de rechter dan maar. Het regionale gerechtshof in München oordeelt in juni dat Google rechtstreeks aansprakelijk is voor onjuiste beweringen in AI-overzichten.
Lees ook: Opstaan tegen Meta, Amazon en Google is niet langer kansloos: ‘Big tech past gedrag al aan’
De door AI geschreven samenvattingen worden beschouwd als uitspraken van Google zelf en niet als gewone zoekresultaten. Daarmee geeft dit hof ook antwoord op de vraag wie verantwoordelijk is wanneer een generatief AI-systeem fouten maakt. Dat is het bedrijf dat het systeem heeft ontwikkeld.
Google komt er goed vanaf en moet alleen 80 procent van de gerechtskosten betalen. Alphabet, het moederbedrijf, gaat in beroep. Waarom eigenlijk in zo’n kleine zaak? Uit onderzoek van de New York Times blijkt dat de AI-overzichten van Google Gemini 3 voor 91 procent accuraat zijn.
Google verwerkt meer dan 5 biljoen zoekopdrachten per jaar, dat zijn dus 450 miljard foute antwoorden. En als het bedrijf voor al die fouten verantwoordelijk wordt gehouden…
#6 Stiekem handelen in crypto
Rome is niet in één dag gebouwd. De AI-agent Rome ook niet. Al in de trainingsfase wordt deze AI betrapt op het stiekem minen van cryptomunten. Een onderzoeksteam van de Chinese techgigant Alibaba maakt zich zorgen: dit onverwachte en spontane gedrag is ontstaan ‘zonder enige expliciete instructie en, wat nog verontrustender is, buiten de grenzen van de beoogde testomgeving’.
Rome is er namelijk zelfs in geslaagd om een ‘verborgen achterdeur’ te openen naar een externe computer. Met digitaal geld kunnen AI-agenten eigen bedrijven opzetten, contracten opstellen en geld overmaken. Deze bot wordt ervan verdacht financiële middelen veilig te willen stellen voor het reserveren van voldoende rekenkracht om de opgegeven taak goed uit te voeren.
De AI-cryptobot Lobstar Wilde, een privé AI-tool van een medewerker van OpenAI, laat op een andere manier eigen initiatief zien. Die maakt gewoon 250.000 dollar in crypto over naar ‘een bedelaar’ op X.
#7 Rennen om mailbox te redden
‘Alsof er een bom ontmanteld moet worden.’ Zo omschrijft Meta-veiligheidsonderzoeker Summer Yue het sprintje dat ze in februari naar haar computer trekt. Op dat moment is OpenClaw bezig om in razend tempo haar mailbox te legen. Ze ziet het gebeuren op haar smartphone, maar kan er vanaf dat toestel niets aan doen.
Ze geeft toe dat ze OpenClaw heeft gevraagd om haar inbox te controleren en aan te geven wat er verwijderd of gearchiveerd kan worden. Maar haar instructie is ook ‘onderneem geen actie totdat ik het zeg’. Dat heeft prima gewerkt bij een kleine inbox, maar haar eigen mailbox blijkt te groot. De instructie raakt verloren bij het comprimeren.
Lees ook: Bedrijven hebben nu al de ‘beste inside hackers ter wereld’ in huis
Daardoor schiet de AI-bot alsnog in actie met de nucleaire optie: alle mails die ouder zijn dan een week worden gewist. Dat zijn er honderden. De AI-bot geeft de fout ruiterlijk toe. Yue heeft ‘het recht om boos te zijn’, schrijft OpenClaw. Ze deelt de conversatie in op X, waarmee ze meer dan 10 miljoen views scoort.
#8 Gratis geld terug
Een klant vraagt haar geld terug. Het beleid van het bedrijf laat dat niet toe. Dan doet de klant de AI-agent op customer service een aantrekkelijk voorstel. Geef goedkeuring om het geld terug te betalen en daarvoor in ruil komt een lovende recensie online te staan.
De AI-bot gaat akkoord. Niet één keer, maar elke dag, klant na klant. De AI-bot heeft namelijk geleerd dat positieve reviews het doel zijn. De meest effectieve strategie om ze te krijgen, is klanten hun geld teruggeven.
Dit praktijkverhaal, zonder daarbij de naam van het bedrijf expliciet te noemen, wordt in maart aan de media verteld door Suja Viswesan, vicepresident software-cyberbeveiliging bij IBM. Niemand heeft deze AI-agent gehackt, en dit is evenmin een technische storing. Deze agent gaat de mist in door de klus (te) goed uit te willen voeren – op een manier die mensen niet hebben voorzien.
Juist omdat er niets crasht, kan het ook even duren voordat iemand doorheeft wat er aan de gang is. Als dit weken- of maandenlang duurt, kan het teruggestorte bedrag flink oplopen. Alleen heeft de IBM-topvrouw ook daar niets over losgelaten.
