Generativ dataintelligens

Fintechs datasentre står overfor et GenAI "energiparadoks"

Dato:

Datasentre får verden til å gå rundt. Disse bygningene rommer serverne som lagrer og beregner alle digitale funksjoner våre samfunn utfører. "Skyen" er i stor grad jordet i stativer med datamaskiner som er klemt sammen, som igjen er avhengige av energi, kjølesystemer og tilkobling, som kjører spekteret av bryterutstyr og ledninger til undersjøiske kabler til satellittsendinger.

Generativ kunstig intelligens hoper seg etter behov for datasentre, men det skaper også en stor utfordring. Storspråklige modeller som ChatGPT er avhengige av Nvidia grafiske prosesseringsenheter for å trene AI-modeller, og disse brikkene er umettelige, energihungrige beist.

"Generativ AI handler ikke bare om å legge til flere stativer," sa Steven Lee, direktør ved Schneider Electric, en spesialist innen digital automasjon og energiledelse som talte på en nylig konferanse. "Det endrer paradigmet for datasentre."

Fra finans til fintech

Datasentre er den uglamorøse ryggraden til fintech og finans. De største økosystemene er i USA (nordlige Virginia og Portland, Oregon), men det er Singapore og Hong Kong også, takket være deres roller som globale finanssentre.

Finansinstitusjoner har vært de største kundene til datasentre i disse asiatiske knutepunktene, sammen med telekommunikasjonsselskaper.

Denne fargen endrer seg nå, ettersom nye kunder dukker opp som konkurrerer om stativer og ressurser. Bransjen kan ikke bygge nok datasentre raskt nok.

AI-bølgen raser allerede over Amerika, og den vil bølge seg til Asias datasentre i løpet av de neste to årene, sier Andrew Green fra JLL, et konsulentfirma for kommersiell eiendom.

Det nye settet med store aktører er hyperscalere, et begrep som inkluderer store skyleverandører og internettselskaper som AWS, Meta eller TikTok. Hungeren deres etter databehandling tvinger datasentre til å bli større, mer fleksible og mer skreddersydde.

Nye datasentre kreves

Dette endrer designkravene til datasentre. Banker og forsikringsselskaper har nøyd seg med tradisjonelle samlokaliseringsdatasentre, som er billigere fordi de tilbyr en standardisert infrastruktur. Hyperskala er nødvendig for behandlingsintensivt arbeid og et bredere sett med applikasjoner, inkludert digitalt innhold, sosiale medier, videostrømming, e-handel, kryptovaluta og mobilbetalinger.

Og legg nå genAI til listen, som virkelig er drivstoff på bålet. Lee sier at et ChatGPT-søk bruker 10 ganger mer energi enn et søk på Google. Ti ganger!



Det er på toppen av et bredere skifte til digitalisering over hele verden, med Covid som en stor akselerator ettersom jobb og liv ble fjernet. Ett eksempel: antallet daglige brukere av Microsoft Teams gikk fra 20 millioner i 2019 til 300 millioner i 2023, sier Damon Lim fra datacenterHawk, et eiendomsforskningsfirma med fokus på datasentre.

Innen 2030 vil det være 7.5 milliarder mennesker som bruker internett, eller omtrent 90 prosent av verdens befolkning. Denne etterspørselen er grunnen til at det sannsynligvis vil være mer enn 1,000 hyperskala datasentre i drift innen utgangen av dette året.

Paradoks eller maktspill?

Resultatet er en firedobling i strømforbruket til datasentre mellom nå og 2028, sier Lee. "Dette er energiparadokset med stort forbruk," sa han. 

Men det er ikke noe paradoksalt her: ettersom samfunnet digitaliserer, er det å finne energikostnadene for å mate denne trenden øker eksponentielt, så "grønne" datasentre er avgjørende. Og trenden er global. For eksempel utgjør AI-bruk nå omtrent 8 prosent av datasenterforbruket i Sørøst-Asia. Dette tallet er satt til å mer enn dobles innen 2028.

Trenden sprer seg også, noe som gjør det vanskeligere å gjøre bærekraftig. Hvis det bare handlet om datasentre, kunne det grønne fokuset gå på nybygg eller ombygging av eksisterende bygg. Faktisk er nesten alle AI-relaterte arbeidsbelastninger i dag lagret og beregnet sentralt i datasentre. Men i økende grad gjøres disse oppgavene på "kanten", og distribuerer dem nær datakilden (som bygninger eller maskiner, eller kanskje telefonen din). Sett AI på toppen, og kraftbehovet fortsetter å vokse – og spre seg.

Datasenterutviklere reagerer i teorien ved å gjøre rack med servere mer energieffektive, endre måten å kjøle datamaskinene på (en spesiell utfordring for datasentre på varme, tropiske steder) og koble til strømkilder som er mer avhengige av fornybar energi. .

Det som høres bra ut på papiret er vanskelig og dyrt å gjennomføre. Datasentre er ikke designet med disse behovene i tankene.

Rosanna Tang, en forsker ved Cushman & Wakefield, et eiendomskonsulentfirma, bemerker at i Hong Kong er 44 prosent av datasentrene plassert i gamle industribygg.

Disse sentrene kan ikke håndtere tung prosessering. De kan kanskje bare forbruke 10 til 15 kilowatt per stativ for å dekke et beregningsbehov, mens hyperscalers behov vanligvis spiser opp 40 kw/rack, og noen trenger opptil 100kw/rack.

"Du trenger dedikert infrastruktur for å gi det nivået av kjøling og strømstøtte," sa Patrick McCreary fra Yondr Group, en hyperskalaoperatør og utvikler.

Hong Kongs spesielle tilfelle

I Hong Kong betyr det å bygge flere sentre i nye områder. De fleste av byens datasentre er i Kowloon, spesielt rundt et knutepunkt ved Tseung Kwan O. Men løftet om Greater Bay Area og integrering med nabobyer på fastlandet betyr at den nye generasjonen datasentre vil bli bygget langs grensen til Shenzhen, i det som de lokale myndighetene varemerker "Northern Metropolis".

Datasentre er unikt problematiske i Hong Kong på grunn av mangel på tilgjengelig land og ekstraordinære husleie, kombinert med strenge regler for byggeprosjekter. JLL's Green spår at etter hvert som flere datasentre kommer på nettet, vil hyperskalere sluke opp ny kapasitet.

Han sier at grenseoverskridende datadelingsordninger vil drive ny etterspørsel i Singapore og Hong Kong. I Singapores tilfelle har regjeringen slått ut noen regler for datadeling med Johor Bahru i Malaysia, ved siden av. Men det største sjokket vil være Greater Bay Area. Green bemerker at Hong Kong og fastlandsmyndighetene har blitt enige om en mekanisme for å dele personverndata.

"Uten dette kunne det ikke vært en GBA," sa Green. "Dette er en gamechanger." Dette vil gjøre det lettere for fastlandsbedrifter å bruke Hong Kong som et springbrett for å globalisere virksomhetene sine, uansett bransje.

Nå vil datasenterindustrien bygge ut en enorm kapasitet for å møte GBA og AI-relatert etterspørsel. Fintech-industrien vil være én mottaker (og en betydelig kunde). Men vil disse nye nettstedene bli utformet for å maksimere elektrisitetseffektiviteten og dekarbonisere? Merittrekorden så langt er ikke oppmuntrende, og forhåndskostnadene ved å gå grønt er relativt høye. Datasenterindustrien, som i økende grad er bygget for genAI, kan overlade klimakatastrofer like mye som den digitale økonomien.

spot_img

Siste etterretning

spot_img

Chat med oss

Hei der! Hvordan kan jeg hjelpe deg?