Generativ dataintelligens

Fintechs datacenter står inför en GenAI "energiparadox"

Datum:

Datacenter får världen att gå runt. Dessa byggnader rymmer servrarna som lagrar och beräknar alla digitala funktioner som våra samhällen utför. "Molnet" är mycket jordat i rack med datorer som är ihopsnöda, som i sin tur är beroende av energi, kylsystem och anslutningar, vilket leder spektrumet av ställverk och ledningar till undervattenskablar till satellitsändningar.

Generativ artificiell intelligens växer på efterfrågan på datacenter men det skapar också en enorm utmaning. Storspråkiga modeller som ChatGPT förlitar sig på Nvidia grafiska processorenheter för att träna AI-modeller, och dessa chips är omättliga, energihungriga bestar.

"Generativ AI handlar inte bara om att lägga till fler rack", sa Steven Lee, direktör på Schneider Electric, en specialist inom digital automation och energihantering som talade vid en nyligen genomförd konferens. "Det förändrar paradigmet för datacenter."

Från finans till fintech

Datacenter är den oglamorösa ryggraden till fintech och finans. De största ekosystemen finns i USA (norra Virginia och Portland, Oregon), men det är också Singapore och Hong Kong, tack vare deras roller som globala finansiella centra.

Finansiella institutioner har varit de största kunderna till datacenter i dessa asiatiska nav, tillsammans med telekommunikationsföretag.

Den hyn håller på att förändras nu, eftersom nya kunder dyker upp som konkurrerar om ställ och resurser. Branschen kan inte bygga tillräckligt med datacenter tillräckligt snabbt.

AI-vågen kraschar redan mot Amerika, och den kommer att krusa sin väg till Asiens datacenter under de kommande två åren, säger Andrew Green från JLL, ett konsultföretag för kommersiella fastigheter.

Den nya uppsättningen av stora aktörer är hyperscalers, en term som inkluderar stora molnleverantörer och internetföretag som AWS, Meta eller TikTok. Deras hunger efter datorer tvingar datacenter att bli större, mer flexibla och mer skräddarsydda.

Nya datacenter krävs

Detta förändrar designkraven för datacenter. Banker och försäkringsbolag har nöjt sig med traditionella samlokaliseringsdatacenter, som är billigare eftersom de erbjuder en standardiserad infrastruktur. Hyperscale krävs för bearbetningsintensivt arbete och en bredare uppsättning applikationer, inklusive digitalt innehåll, sociala medier, videostreaming, e-handel, kryptovaluta och mobila betalningar.

Lägg nu till genAI på listan, vilket verkligen är bränsle på elden. Lee säger att en ChatGPT-fråga förbrukar 10 gånger mer energi än en sökning på Google. Tio gånger!



Det är på toppen av en bredare övergång till digitalisering över hela världen, med Covid en stor accelerator när arbete och liv försvann. Ett exempel: antalet dagliga användare av Microsoft Teams gick från 20 miljoner 2019 till 300 miljoner 2023, säger Damon Lim från datacenterHawk, ett fastighetsundersökningsföretag fokuserat på datacenter.

År 2030 kommer det att finnas 7.5 miljarder människor som använder internet, eller cirka 90 procent av världens befolkning. Den efterfrågan är anledningen till att det sannolikt kommer att finnas mer än 1,000 XNUMX hyperskala datacenter i drift i slutet av detta år.

Paradox eller maktspel?

Resultatet är en fyrfaldig ökning av energiförbrukningen i datacenter mellan nu och 2028, säger Lee. "Detta är energiparadoxen med enorm förbrukning", sa han. 

Men det finns inget paradoxalt här: när samhället digitaliseras, är det att finna att energikostnaderna för att mata denna trend stiger exponentiellt, så att "gröna" datacenter är avgörande. Och trenden är global. Till exempel står AI-användningen nu för cirka 8 procent av datacenterkonsumtionen i Sydostasien. Den siffran kommer att mer än fördubblas till 2028.

Trenden sprider sig också, vilket gör det svårare att göra hållbart. Om det bara handlade om datacenter skulle det gröna fokuset kunna gå på nybyggnation eller ombyggnad av befintliga byggnader. Faktum är att nästan alla AI-relaterade arbetsbelastningar idag lagras och beräknas centralt i datacenter. Men allt oftare görs dessa uppgifter i "kanten", och distribuerar dem nära datakällan (som byggnader eller maskiner, eller kanske din telefon). Lägg AI överst, och kraftbehovet fortsätter att växa – och spridas.

Datacenterutvecklare svarar, i teorin, genom att göra servrar mer energieffektiva, ändra sätten att kyla datorerna (en särskild utmaning för datacenter i varma, tropiska platser) och koppla in elkällor som är mer beroende av förnybara energikällor. .

Det som låter bra på pappret är svårt och dyrt att genomföra. Datacenter har inte utformats med dessa behov i åtanke.

Rosanna Tang, forskare vid Cushman & Wakefield, ett fastighetskonsultföretag, konstaterar att i Hongkong är 44 procent av datacenter inrymda i gamla industribyggnader.

Dessa centra kan inte hantera tung bearbetning. De kanske bara kan förbruka 10 till 15 kilowatt per rack för att möta ett beräkningsbehov, medan hyperscalers behov vanligtvis äter upp 40 kw/rack, och vissa behöver upp till 100kw/rack.

"Du behöver en dedikerad infrastruktur för att tillhandahålla den nivån av kylning och kraftstöd", säger Patrick McCreary från Yondr Group, en hyperskalaoperatör och utvecklare.

Hongkongs specialfall

I Hong Kong innebär det att man bygger fler centra i nya områden. De flesta av stadens datacenter finns i Kowloon, särskilt runt ett nav vid Tseung Kwan O. Men löftet om Greater Bay Area och integration med närliggande städer på fastlandet innebär att den nya generationen datacenter kommer att byggas längs Shenzhen-gränsen, i vad den lokala regeringen märker "Norra Metropolis".

Datacenter är unikt problematiska i Hongkong på grund av bristen på tillgänglig mark och extraordinära hyror, i kombination med stränga regler för byggprojekt. JLL's Green förutspår att allt eftersom fler datacenter kommer på nätet kommer hyperskalare att sluka upp all ny kapacitet.

Han säger att gränsöverskridande datadelningsarrangemang kommer att driva ny efterfrågan i Singapore och Hongkong. I Singapores fall har regeringen slagit ut några regler för datadelning med Johor Bahru i Malaysia, bredvid. Men den största chocken kommer att vara Greater Bay Area. Green noterar att myndigheterna i Hongkong och fastlandet har kommit överens om en mekanism för att dela sekretessdata.

"Utan detta skulle det inte kunna bli en GBA," sa Green. "Det här är en gamechanger." Detta kommer att göra det lättare för företag på fastlandet att använda Hongkong som språngbräda för att globalisera sina företag, oavsett bransch.

Nu kommer datacenterindustrin att bygga ut en enorm kapacitet för att möta GBA- och AI-relaterad efterfrågan. Fintech-branschen kommer att vara en förmånstagare (och en betydande kund). Men kommer dessa nya platser att utformas för att maximera eleffektiviteten och för att minska koldioxidutsläppen? Meritresultatet hittills är inte uppmuntrande, och de initiala kostnaderna för att gå grönt är relativt höga. Datacenterindustrin, allt mer byggd för genAI, skulle kunna överbelasta klimatkatastrofer lika mycket som den gör den digitala ekonomin.

plats_img

Senaste intelligens

plats_img

Chatta med oss

Hallå där! Hur kan jag hjälpa dig?