Nee, generatieve AI’s hoeven geen energievreters te zijn

Voor het trainen van GPT-4 was er naar schatting net zoveel elektriciteit nodig als het jaarverbruik van 5000 Amerikaanse huishoudens. En daar blijft het niet bij: nu dat model operationeel is leidt elke vraag van een gebruiker tot extra energieverbruik. Om oververhitting te voorkomen, moeten de servers in datacentra bovendien goed gekoeld worden. Dat kost dus ook nog eens flink wat water.

Onvermijdelijke consequentie?

Amerikaanse technologiebedrijven focusten zich de afgelopen jaren vooral op het aanjagen van de prestaties van hun generatieve AI-modellen. Zij investeerden volop in geavanceerde chips en de bouw van nieuwe datacentra. En het sterk oplopende energie- en waterverbruik dat ze daarmee veroorzaakten? Dat zagen ze als een onvermijdelijke consequentie van die nieuwe ontwikkeling.

Grotere ecologische voetafdruk

Ook gebruikers van Gen AI-toepassingen lijken weinig oog te hebben voor de duurzame aspecten. Zo is in het Capgemini-rapport Developing Sustainable Gen AI te lezen dat het gebruik van Gen AI-toepassingen weliswaar bij veel bedrijven al tot een grotere ecologische voetafdruk leidt, maar dat ze eerder hun duurzaamheidsdoelstellingen aanpassen dan het gebruik van die technologie te beperken.

Een totaal nieuwe aanpak

“Ondertussen wijst alles erop dat het gebruik van generatieve AI alleen nog maar sterk zal gaan stijgen”, benadrukt Joost Carpaij, Gen AI deskundige bij Capgemini. “Daarbij zie je dat die AI-modellen steeds geavanceerder worden en daardoor ook uitgebreidere antwoorden gaan geven. Maar hoe langer een antwoord, hoe meer energie dat kost. Tenzij je een totaal nieuwe aanpak bedenkt waarmee het mogelijk is om tot efficiëntere AI-modellen te komen. En begin dit jaar zagen we op dat vlak een ontwikkeling die je gerust een doorbraak kunt noemen.”

Goedkoper en energiezuiniger

Carpaij doelt op DeepSeek-R1, de redenerende generatieve AI van een Chinese start-up die met minder energieverbruik in staat lijkt te zijn om de krachtigste Amerikaanse systemen te evenaren. “We moeten nog even afwachten of alle claims daadwerkelijk kloppen, maar het ziet er toch echt wel naar uit dat ze in China een manier hebben gevonden om AI-modellen op een goedkopere manier te trainen en te laten functioneren, met minder grafische kaarten en minder energie.”

Dubbele gevoelens

“Ik heb overigens wel dubbele gevoelens over die ontwikkeling”, vervolgt hij. “Want hoewel het natuurlijk fantastisch is dat die Chinese innovatie tot veel duurzamere Gen AI-toepassingen kan leiden, is het geopolitiek gezien een minder positief verhaal. Zo is het erg zorgwekkend dat DeepSeek de informatie van gebruikers op Chinese servers opslaat, waarbij niet duidelijk is wat er precies met die informatie gebeurt. Iets wat overigens ook voor de Amerikaanse aanbieders geldt. Bovendien wordt er overduidelijk censuur toegepast op de antwoorden die het model geeft.”

Kansen voor Europa

Het feit dat DeepSeek voor een open source-aanpak heeft gekozen, heeft Carpaij dan wel weer blij verrast. “Dat betekent dat iedereen die code kan inzien en gebruiken. Daarbij is het mogelijk om het model op eigen infrastructuur en eigen servers te laten draaien. Dus buiten China. Dat biedt ook kansen voor Europa.”

Het totaalplaatje

Als het trainen en inzetten van generatieve AI-modellen minder rekenkracht vergt, zou je denken dat dit ook tot een lager energieverbruik zal leiden. Maar Carpaij zet daar nog wel een kanttekening bij: “Zodra iets efficiënter en goedkoper wordt, zullen meer mensen er gebruik van maken. Dat zou er dus voor kunnen zorgen dat het totale wereldwijde energieverbruik van Gen AI-toepassingen de komende jaren juist sneller stijgt dan voorzien. Het gaat om het totaalplaatje. Dat is dus iets waar we zeker rekening mee moeten houden.”

Zonde

Naast het aanpassen van de modelarchitectuur van generatieve AI en de onderliggende algoritmes, is er meer nodig om het energieverbruik binnen de perken te houden. En daarbij spelen gebruikers een niet te onderschatten rol. “Moet je een vraag echt aan ChatGPT, Claude of een andere Gen AI-toepassing stellen? Of kan dat ook prima via Google of een andere traditionele zoekmachine? Het is goed om daar vooraf bij stil te staan”, benadrukt Carpaij. “Want zodra je een vraag aan een Gen AI-toepassing stelt, worden er krachtige rekenmodellen in werking gezet. En het is toch een beetje zonde van de energie als dat niet nodig is.”

Gen AI selectiever inzetten

“Sterker nog: voor sommige vragen is het juist niet handig om daar een generatieve AI voor in te zetten omdat je er niet zeker van kunt zijn dat het antwoord voor de volle honderd procent klopt”, geeft hij aan. “Bij bepaalde use cases is dat echt een probleem. Het zou dan ook goed zijn als gebruikers van Gen AI-toepassingen voortaan selectiever inzetten en zich daarbij bewuster zijn van het energieverbruik van die technologie. Op dat vlak is er echt nog veel te winnen.”

Kleinere, gespecialiseerde modellen

Er is nog een andere manier om de kwaliteit van Gen AI-toepassingen te vergroten tegen lagere kosten en een lagere uitstoot. Carpaij: “Je hoeft niet altijd gebruik te maken van een generatieve AI die alles kan. Zo zijn specialisten vaak beter geholpen met een kleiner model dat zich heel specifiek op hun vakgebied richt. Zo’n kleiner model is goedkoper om te trainen, energiezuiniger in het gebruik en ook nog een stuk sneller. Er hoeven immers minder radartjes te draaien om tot het juiste antwoord te komen. En hoe kleiner een model, hoe makkelijker zo’n model binnen de context kan blijven. Dat betekent dat de kans op hallucinaties afneemt. Veel voordelen dus. Vanuit Capgemini verwachten we dan ook dat daar mooie kansen voor de toekomst liggen.”

Het rapport Capgemini-rapport Developing Sustainable Gen AI bevat een stappenplan voor het creëren van verantwoorde Gen AI voor duurzame bedrijfswaarde.

Lees ook:

• Wereldwijde trend: bedrijven worden duurzamer, maar geopolitieke spanningen brengen onrust
• Wereldprimeur: Nederlandse bedrijven halen CO2 uit de lucht met behulp van windenergie
• Gevolgen klimaatverandering op extreem weer veel scherper duidelijk dankzij nieuwe simulatie
• Volgens Klimaatraad moet kabinet nú beleid maken om CO2 uit de lucht te filteren: deze bedrijven zetten er al op in