Nee, generatieve AI’s hoeven geen energievreters te zijn. Dat is toch wel de belangrijkste conclusie van een rapport dat Capgemini begin dit jaar publiceerde. Zelf lijken Gen AI-toepassingen daar ook al goed van op de hoogte te zijn.
Wie bijvoorbeeld aan ChatGPT of Claude vraagt hoe generatieve AI op een duurzamere manier kan worden toegepast, krijgt binnen enkele seconden goed onderbouwde aanbevelingen. Ironisch genoeg komen die tips van Gen AI-toepassingen die zelf nog schrikbarend veel energie en water verbruiken. Dat moet dus anders. En dat kan ook anders.
De feiten
Voor het trainen van GPT-4 was er naar schatting net zoveel elektriciteit nodig als het jaarverbruik van 5000 Amerikaanse huishoudens. En daar blijft het niet bij: elke vraag van een gebruiker leidt tot extra energieverbruik. Om oververhitting te voorkomen, moeten de servers in datacentra bovendien gekoeld worden. Dat kost flink wat water.
Innovatierace
De focus van Amerikaanse technologiebedrijven lag de afgelopen jaren niet bepaald op de duurzame aspecten. Zij zijn in een innovatierace verwikkeld waarbij alles erop is gericht om de prestaties van hun generatieve AI-modellen zo snel mogelijk naar steeds hogere niveaus te tillen
En de gebruikers?
Die lijken eveneens weinig oog te hebben voor de duurzame aspecten van Gen AI-toepassingen. Zo is in het Capgemini-rapport Developing Sustainable Gen AI te lezen dat hoewel het gebruik van Gen AI-toepassingen bij veel bedrijven al tot een grotere ecologische voetafdruk leidt, ze eerder bereid zijn om hun duurzaamheidsdoelstellingen aan te passen dan het gebruik van die technologie te beperken.
Een doorbraak
‘Ondertussen wijst alles erop dat het gebruik van generatieve AI alleen nog maar sterk zal gaan stijgen’, benadrukt Joost Carpaij, Gen AI deskundige bij Capgemini. ‘Daarbij zie je dat die AI-modellen steeds geavanceerder worden en daardoor ook uitgebreidere antwoorden gaan geven. Maar hoe langer een antwoord, hoe meer energie dat kost.’
Tenzij je een totaal nieuwe aanpak bedenkt waarmee het mogelijk is om tot efficiëntere AI-modellen te komen. ‘Begin dit jaar zagen we op dat vlak een ontwikkeling die je gerust een doorbraak kunt noemen.’
Efficiëntere AI-modellen
Carpaij doelt op DeepSeek-R1, de redenerende generatieve AI van een Chinese start-up die met minder energieverbruik in staat lijkt te zijn om de krachtigste Amerikaanse systemen te evenaren. ‘We moeten nog even afwachten of alle claims daadwerkelijk kloppen. Maar ze lijken in China een manier te hebben gevonden om AI-modellen op een goedkopere manier te trainen en te laten functioneren, met minder grafische kaarten en minder energie.’’
Fantastisch en tegelijkertijd zorgwekkend
‘Ik heb wel dubbele gevoelens over die ontwikkeling, vervolgt hij. ‘Want geopolitiek gezien is het een minder positief verhaal. Zo is het erg zorgwekkend dat DeepSeek de informatie van gebruikers op Chinese servers opslaat, waarbij niet duidelijk is wat er precies met die informatie gebeurt. Iets wat overigens ook voor de Amerikaanse aanbieders geldt. Bovendien wordt er overduidelijk censuur toegepast’
Het feit dat DeepSeek voor een open source-aanpak heeft gekozen, heeft Carpaij dan wel weer blij verrast. ‘Dat betekent dat iedereen die code kan inzien en gebruiken. Daarbij is het mogelijk om het model op eigen infrastructuur en eigen servers te laten draaien. Dus buiten China. Dat biedt ook kansen voor Europa.’
Niet te snel juichen
Zullen de nieuwe ontwikkelingen straks tot een lager energieverbruik leiden? Carpaij waarschuwt om niet te snel te juichen: ’Zodra iets efficiënter en goedkoper wordt, zullen meer mensen er gebruik van maken. Dat zou er dus voor kunnen zorgen dat het totale wereldwijde energieverbruik van Gen AI-toepassingen de komende jaren juist sneller stijgt.’
AI or not AI?
De bal ligt dus niet alleen bij de ontwikkelaars. ‘Moet je een vraag echt aan ChatGPT, Claude of een andere Gen AI-toepassing stellen? Of kan dat ook prima via Google of een andere traditionele zoekmachine? Zodra je een vraag aan een Gen AI-toepassing stelt, worden er krachtige rekenmodellen in werking gezet. En het is toch een beetje zonde van de energie als dat niet nodig is.’
Het zou dan ook goed zijn als gebruikers van Gen AI-toepassingen voortaan selectiever inzetten, vindt Carpaij. En zich daarbij bewuster zijn van het energieverbruik van die technologie. ‘Op dat vlak is er nog veel te winnen.’
De voordelen van kleinere AI-modellen
Er is nog een andere manier om de kwaliteit van Gen AI-toepassingen te vergroten tegen lagere kosten en een lagere uitstoot. Carpaij: ‘Specialisten zijn vaak beter geholpen met een kleiner model dat zich heel specifiek op hun vakgebied richt. Zo’n kleiner model is goedkoper om te trainen, energiezuiniger in het gebruik en ook nog een stuk sneller.’
Er hoeven immers minder radartjes te draaien om tot het juiste antwoord te komen. ‘Hoe kleiner een model, hoe makkelijker zo’n model binnen de context kan blijven. Dat betekent dat de kans op hallucinaties afneemt. Veel voordelen dus. Vanuit Capgemini verwachten we dan ook dat daar mooie kansen voor de toekomst liggen.’
Het rapport Capgemini-rapport Developing Sustainable Gen AI bevat een stappenplan voor het creëren van verantwoorde Gen AI voor duurzame bedrijfswaarde.
Dit artikel wordt u aangeboden door
Capgemini
Capgemini loopt voorop in de toepassing van innovatie bij het realiseren van duurzame groei en een betere manier van werken en leven. Capgemini helpt klanten beter te anticiperen op toekomstige trends, het potentieel ervan in te schatten en er op verantwoorde wijze voordeel uit te halen.
Meer informatie:
