אינטליגנציה של נתונים גנרטיביים

מרכזי הנתונים של Fintech עומדים בפני "פרדוקס אנרגיה" של GenAI

תאריך:

מרכזי נתונים גורמים לעולם להסתובב. בבניינים אלה נמצאים השרתים המאחסנים ומחשבים כל פונקציה דיגיטלית שהחברות שלנו מבצעות. ה"ענן" מקורקע מאוד במדפים של מחשבים מכורבלים זה לזה, אשר בתורם מסתמכים על אנרגיה, מערכות קירור וקישוריות, אשר מפעילה את סולם המתגים והחוטים לכבלים תת-מימיים לשידורי לוויין.

בינה מלאכותית גנרטיבית מצטברת לפי דרישה למרכזי נתונים, אך היא גם יוצרת אתגר עצום. דגמים בשפה גדולה כמו ChatGPT מסתמכים על יחידות עיבוד גרפיות של Nvidia כדי להכשיר מודלים של AI, והשבבים האלה הם חיות שאינן יודעות שובע ותאבות אנרגיה.

"בינה מלאכותית גנרית היא לא רק הוספת מתלים נוספים", אמר סטיבן לי, מנהל בשניידר אלקטריק, מומחה באוטומציה דיגיטלית וניהול אנרגיה שנשא דברים בכנס שנערך לאחרונה. "זה משנה את הפרדיגמה של מרכזי נתונים."

מפיננסים ועד פינטק

מרכזי נתונים הם עמוד השדרה הלא זוהר של הפינטק והפיננסים. המערכות האקולוגיות הגדולות ביותר נמצאות בארה"ב (צפון וירג'יניה ופורטלנד, אורגון), אבל כך גם סינגפור והונג קונג, הודות לתפקידן כמרכזים פיננסיים גלובליים.

מוסדות פיננסיים היו הלקוחות הגדולים ביותר של מרכזי נתונים במרכזי אסיה אלה, יחד עם חברות תקשורת.

עם זאת, הגוון הזה משתנה כעת, כאשר לקוחות חדשים צצים המתחרים על מתלים ומשאבים. התעשייה לא יכולה לבנות מספיק מרכזי נתונים במהירות מספקת.

גל הבינה המלאכותית כבר מתרסק על אמריקה, והוא יגלוש את דרכו למרכזי הנתונים של אסיה במהלך השנתיים הקרובות, אומר אנדרו גרין מ-JLL, חברת ייעוץ לנכסים מסחריים.

הסט החדש של השחקנים הגדולים הוא Hyperscalers, מונח הכולל ספקי ענן גדולים וחברות אינטרנט כמו AWS, Meta או TikTok. הרעב שלהם למחשוב מאלץ את מרכזי הנתונים להיות גדולים יותר, גמישים יותר ומותאמים יותר.

נדרשים מרכזי נתונים חדשים

זה משנה את דרישות העיצוב למרכזי נתונים. בנקים וחברות ביטוח הסתפקו במרכזי נתונים מסורתיים למיקום משותף, שהם זולים יותר מכיוון שהם מציעים תשתית סטנדרטית. Hyperscale נדרש לעבודה עתירת עיבוד ומערכת רחבה יותר של יישומים, כולל תוכן דיגיטלי, מדיה חברתית, הזרמת וידאו, מסחר אלקטרוני, מטבעות קריפטוגרפיים ותשלומים ניידים.

ועכשיו הוסף את genAI לרשימה, שהיא באמת דלק על האש. לי אומר שאילתת ChatGPT צורכת פי 10 יותר אנרגיה מאשר חיפוש בגוגל. עשר פעמים!



זה בנוסף למעבר רחב יותר לדיגיטליזציה ברחבי העולם, כאשר קוביד הוא מאיץ גדול ככל שהעבודה והחיים התרחקו. דוגמה אחת: מספר המשתמשים היומיים ב-Microsoft Teams עלה מ-20 מיליון ב-2019 ל-300 מיליון ב-2023, אומר דיימון לים מ-datacenterHawk, חברת מחקר נדל"ן המתמקדת במרכזי נתונים.

עד שנת 2030 יהיו 7.5 מיליארד אנשים שמשתמשים באינטרנט, או כ-90 אחוז מאוכלוסיית העולם. הדרישה הזו היא הסיבה שסביר להניח שיהיו יותר מ-1,000 מרכזי נתונים בקנה מידה גבוה בפעילות עד סוף השנה הנוכחית.

פרדוקס או משחק כוח?

התוצאה היא עלייה של פי ארבע בצריכת החשמל של מרכזי נתונים מעכשיו ל-2028, אומר לי. "זהו פרדוקס האנרגיה של צריכה עצומה", אמר. 

אבל אין כאן שום דבר פרדוקסלי: ככל שהחברה עוברת דיגיטלית, היא מציאת את עלויות האנרגיה כדי להזין את המגמה הזו עולות באופן אקספוננציאלי, ולכן 'ירוק' מרכזי נתונים הוא חיוני. והמגמה היא עולמית. לדוגמה, השימוש בבינה מלאכותית מהווה כעת כ-8 אחוזים מצריכת מרכז הנתונים בדרום מזרח אסיה. נתון זה אמור להיות יותר מכפול עד 2028.

המגמה גם מתפשטת, מה שמקשה על הפיכתו לבר-קיימא. אם זה היה רק ​​על מרכזי נתונים, ההתמקדות הירוקה יכולה ללכת על בניינים חדשים או שיפוץ בניינים קיימים. ואכן, כמעט כל עומסי העבודה הקשורים ל-AI כיום מאוחסנים ומחושבים במרכזי נתונים. אבל יותר ויותר משימות אלה נעשות ב"קצה", ומפיצות אותן קרוב למקור הנתונים (כגון בניינים או מכונות, או אולי הטלפון שלך). שים את הבינה המלאכותית על העליונה, ודרישת הכוח ממשיכה לגדול - ולהתפשט.

מפתחי מרכזי נתונים מגיבים, בתיאוריה, על ידי הפיכת מתלים של שרתים לחסכוניים יותר באנרגיה, שינוי אמצעי קירור המחשבים (אתגר מיוחד עבור מרכזי נתונים במקומות חמים וטרופיים), וחיבור למקורות חשמל הנשענים יותר על אנרגיה מתחדשת. .

מה שנשמע טוב על הנייר קשה ויקר לביצוע. מרכזי נתונים לא תוכננו עם הצרכים האלה בחשבון.

רוזנה טאנג, חוקרת ב-Cushman & Wakefield, חברת ייעוץ לנכסים, מציינת כי בהונג קונג, 44 אחוז ממרכזי הנתונים נמצאים במבני תעשייה ישנים.

מרכזים אלה אינם יכולים להתמודד עם עיבוד כבד. ייתכן שהם יוכלו לצרוך רק 10 עד 15 קילוואט לכל מתלה כדי לענות על צורך מחשוב, בעוד שצורכי היפר-scalers אוכלים בדרך כלל 40 קילוואט/מתלה, וחלקם צריכים עד 100 קילוואט/מתלה.

"תזדקק לתשתית ייעודית כדי לספק רמה זו של קירור ותמיכה בכוח", אמר פטריק מקרירי מ-Yondr Group, מפעיל ומפתח היפר-scale.

המקרה המיוחד של הונג קונג

בהונג קונג זה אומר לבנות עוד מרכזים באזורים חדשים. רוב מרכזי הנתונים של העיר נמצאים בקאולון, במיוחד סביב מרכז ב- Tseung Kwan O. אבל ההבטחה של אזור המפרץ הגדול והשילוב עם ערי היבשת השכנות פירושה שהדור החדש של מרכזי נתונים ייבנה לאורך גבול שנזן, במה השלטון המקומי ממתג את 'המטרופולין הצפוני'.

מרכזי נתונים הם בעייתיים באופן ייחודי בהונג קונג בגלל מחסור בקרקע זמינה ושכר דירה יוצא דופן, בשילוב עם תקנות מחמירות על פרויקטי בנייה. Green's JLL צופה שככל שמרכזי נתונים נוספים יפעלו, היפר-scalers יבלעו כל קיבולת חדשה.

לדבריו, הסדרי שיתוף נתונים חוצי גבולות יגרמו לביקוש חדש בסינגפור ובהונג קונג. במקרה של סינגפור, הממשלה דפקה כמה כללי שיתוף נתונים עם Johor Bahru במלזיה, בסמוך. אבל ההלם הגדול ביותר יהיה אזור המפרץ הגדול. גרין מציין כי הרשויות בהונג קונג והיבשת הסכימו על מנגנון לשיתוף נתוני פרטיות.

"בלי זה, לא יכול להיות GBA," אמר גרין. "זה מחליף משחק." זה יקל על חברות היבשת להשתמש בהונג קונג כקרש קפיצה לגלובליזציה של העסקים שלהן, בכל ענף.

כעת תעשיית מרכז הנתונים תבנה יכולת עצומה כדי לעמוד בביקוש הקשור ל-GBA ול-AI. תעשיית הפינטק תהיה נהנה אחת (ולקוח משמעותי). אך האם האתרים החדשים הללו יעוצבו כדי למקסם את יעילות החשמל ולהפחית פחמן? הרקורד עד כה אינו מעודד, והעלויות הראשונות של יציאה לירוק הן גבוהות יחסית. תעשיית מרכזי הנתונים, שנבנתה יותר ויותר עבור genAI, עלולה להעלות יתר על המידה באסון האקלים באותה מידה שהיא עושה את הכלכלה הדיגיטלית.

ספוט_ימג

המודיעין האחרון

ספוט_ימג

דבר איתנו

שלום שם! איך אני יכול לעזור לך?