Generatieve data-intelligentie

De datacenters van Fintech worden geconfronteerd met een GenAI ‘energieparadox’

Datum:

Datacenters maken de wereld rond. Deze gebouwen huisvesten de servers die elke digitale functie die onze samenlevingen uitvoeren opslaan en berekenen. De ‘cloud’ is grotendeels geworteld in rekken met tegen elkaar aangeschoven computers, die op hun beurt afhankelijk zijn van energie, koelsystemen en connectiviteit, die een heel scala aan schakelapparatuur en draden omvat, van onderzeese kabels tot satellietuitzendingen.

Generatieve kunstmatige intelligentie neemt toe in de vraag naar datacenters, maar zorgt ook voor een enorme uitdaging. Groottalige modellen zoals ChatGPT vertrouwen op grafische verwerkingseenheden van Nvidia om AI-modellen te trainen, en deze chips zijn onverzadigbare, energievretende beesten.

“Generatieve AI gaat niet alleen over het toevoegen van meer racks”, zegt Steven Lee, directeur bij Schneider Electric, een specialist in digitale automatisering en energiebeheer, die sprak op een recente conferentie. “Het verandert het paradigma voor datacenters.”

Van financiën tot fintech

Datacenters vormen de weinig glamoureuze ruggengraat van fintech en financiën. De grootste ecosystemen bevinden zich in de VS (Noord-Virginia en Portland, Oregon), maar dat geldt ook voor Singapore en Hong Kong, dankzij hun rol als mondiale financiële centra.

Financiële instellingen zijn, samen met telecommunicatiebedrijven, de grootste klanten van datacenters in deze Aziatische hubs.

Die teint verandert nu echter nu er nieuwe klanten opduiken die strijden om racks en middelen. De industrie kan niet snel genoeg voldoende datacenters bouwen.

De AI-golf stort zich nu al op Amerika en zal de komende twee jaar zijn weg vinden naar de datacenters van Azië, zegt Andrew Green van JLL, een adviesbureau op het gebied van commercieel vastgoed.

De nieuwe groep grote spelers zijn hyperscalers, een term waar onder meer grote cloudproviders en internetbedrijven als AWS, Meta of TikTok onder vallen. Hun honger naar computers dwingt datacenters om groter, flexibeler en meer op maat gemaakt te worden.

Nieuwe datacenters nodig

Dit verandert de ontwerpvereisten voor datacenters. Banken en verzekeraars zijn tevreden met traditionele co-locatie datacenters, die goedkoper zijn omdat ze een gestandaardiseerde infrastructuur bieden. Grootschalige is vereist voor verwerkingsintensief werk en een bredere reeks toepassingen, waaronder digitale inhoud, sociale media, videostreaming, e-commerce, cryptocurrency en mobiele betalingen.

En voeg nu genAI toe aan de lijst, wat echt olie op het vuur is. Lee zegt dat een ChatGPT-zoekopdracht 10 keer meer energie verbruikt dan een zoekopdracht op Google. Tienmaal!



Dat komt bovenop een bredere verschuiving naar digitalisering over de hele wereld, waarbij Covid een belangrijke versneller was naarmate werk en leven ver weg raakten. Een voorbeeld: het aantal dagelijkse gebruikers van Microsoft Teams ging van 20 miljoen in 2019 naar 300 miljoen in 2023, zegt Damon Lim van datacenterHawk, een vastgoedonderzoeksbureau gericht op datacenters.

In 2030 zullen 7.5 miljard mensen internet gebruiken, oftewel ongeveer 90 procent van de wereldbevolking. Die vraag is de reden dat er tegen het einde van dit jaar waarschijnlijk meer dan duizend hyperscale datacenters operationeel zullen zijn.

Paradox of machtsspel?

Het resultaat is een verviervoudiging van het stroomverbruik door datacenters tussen nu en 2028, zegt Lee. “Dit is de energieparadox van de enorme consumptie”, zei hij. 

Maar daar is niets paradoxaals aan: naarmate de samenleving digitaliseert, stijgen de energiekosten om deze trend te voeden exponentieel, dus het 'groener maken' van datacenters is van cruciaal belang. En de trend is mondiaal. Het gebruik van AI is nu bijvoorbeeld verantwoordelijk voor ongeveer 8 procent van de datacenterconsumptie in Zuidoost-Azië. Dat cijfer zal in 2028 ruimschoots verdubbelen.

De trend breidt zich ook uit, waardoor het moeilijker wordt om te verduurzamen. Als het alleen om datacenters zou gaan, zou de groene focus kunnen liggen op nieuwbouw of het verbouwen van bestaande gebouwen. Bijna alle AI-gerelateerde workloads worden tegenwoordig centraal opgeslagen en berekend in datacenters. Maar deze taken worden steeds vaker aan de 'rand' uitgevoerd, waardoor ze dicht bij de gegevensbron worden gedistribueerd (zoals gebouwen of machines, of misschien uw telefoon). Zet AI bovenaan en de stroombehoefte blijft groeien – en zich verspreiden.

Ontwikkelaars van datacenters reageren in theorie door serverrekken energiezuiniger te maken, de manier waarop de computers worden gekoeld te veranderen (een bijzondere uitdaging voor datacenters op warme, tropische locaties) en door elektriciteitsbronnen aan te sluiten die meer afhankelijk zijn van hernieuwbare energiebronnen. .

Wat op papier goed klinkt, is moeilijk en duur om uit te voeren. Datacenters zijn niet ontworpen met deze behoeften in gedachten.

Rosanna Tang, onderzoeker bij Cushman & Wakefield, een vastgoedadviesbureau, merkt op dat in Hong Kong 44 procent van de datacenters in oude industriële gebouwen is gehuisvest.

Deze centra kunnen de zware verwerking niet aan. Ze kunnen mogelijk slechts 10 tot 15 kilowatt per rack verbruiken om aan de computerbehoefte te voldoen, terwijl de behoeften van hyperscalers doorgaans 40 kW/rack verbruiken, en sommige tot 100 kW/rack.

“Je hebt speciale infrastructuur nodig om dat niveau van koeling en stroomondersteuning te bieden”, zegt Patrick McCreary van Yondr Group, een hyperscale operator en ontwikkelaar.

Een speciaal geval van Hongkong

In Hong Kong betekent dit dat er meer centra in nieuwe gebieden moeten worden gebouwd. De meeste datacenters van de stad bevinden zich in Kowloon, vooral rond een knooppunt in Tseung Kwan O. Maar de belofte van de Greater Bay Area en de integratie met naburige steden op het vasteland betekent dat de nieuwe generatie datacenters langs de grens met Shenzhen zal worden gebouwd, in wat de lokale overheid bestempelt de 'Noordelijke Metropool'.

Datacenters zijn in Hong Kong uniek problematisch vanwege het gebrek aan beschikbare grond en de buitengewone huurprijzen, gecombineerd met strenge regels voor bouwprojecten. JLL's Green voorspelt dat naarmate er meer datacenters online komen, hyperscalers elke nieuwe capaciteit zullen opslokken.

Hij zegt dat grensoverschrijdende regelingen voor het delen van gegevens een nieuwe vraag in Singapore en Hong Kong zullen stimuleren. In het geval van Singapore heeft de regering een aantal regels voor het delen van gegevens uitgevaardigd met Johor Bahru in het buurland Maleisië. Maar de grootste schok zal de Greater Bay Area zijn. Green merkt op dat de autoriteiten van Hongkong en het vasteland overeenstemming hebben bereikt over een mechanisme om privacygegevens te delen.

“Zonder dit zou er geen GBA kunnen zijn”, zei Green. “Dit is een gamechanger.” Dit zal het voor bedrijven op het vasteland gemakkelijker maken om Hong Kong te gebruiken als springplank om hun activiteiten te globaliseren, in welke sector dan ook.

Nu zal de datacenterindustrie een enorme capaciteit opbouwen om aan de GBA- en AI-gerelateerde vraag te voldoen. De fintech-industrie zal één begunstigde (en een belangrijke klant) zijn. Maar zullen deze nieuwe locaties worden ontworpen om de elektriciteitsefficiëntie te maximaliseren en koolstofarm te maken? Het trackrecord tot nu toe is niet bemoedigend, en de initiële kosten om groen te worden zijn relatief hoog. De datacenterindustrie, die steeds meer is gebouwd voor genAI, zou de klimaatramp net zo sterk kunnen aanjagen als de digitale economie.

spot_img

Laatste intelligentie

spot_img

Chat met ons

Hallo daar! Hoe kan ik u helpen?