Arm שואפת להגביר את ביצועי הבינה המלאכותית בקצה עם יחידת העיבוד העצבית המשובצת העדכנית שלה (NPU) ופלטפורמת עיצוב רפרנס שתתחבר אליה, ואמרה שהיא מצפה לראות מכשירים המבוססים עליה מריצים דגמי בינה מלאכותית גנרטיבית בשנה הבאה.
סדרת ה-Ethos היא תיק ה-NPU של Arm, וסדרת Ethos-U הן גרסאות משובצות, או מה שנקרא microNPUs, המיועדות לשילוב עם אחד ממעבדי Cortex-M של מעצב השבבים.
עם ה-Ethos-U85, Arm טוענת לשיפור ביצועים פי 4 ויעילות כוח גדולה יותר ב-20 אחוז בהשוואה לדורות קודמים. אחת הסיבות לכך היא מכיוון שניתן להגדיר אותו עם 128 עד 2,048 יחידות צבירה כפולה, שהאחרונה היא פי XNUMX מהמספר הקיים אתוס-U65, מספק ביצועים של עד 4 TOPs (טריליון פעולות בשנייה) במהירות 1 GHz.
עליית מדרגה זו נדרשת מכיוון שדרישות העיבוד של AI ולמידת מכונה (ML) המוטלות על מערכות משובצות הולכות וגדלות, על פי סמנכ"ל ו-GM של Arm's IoT Line of Business, פול וויליאמסון.
"הגל הראשון של מחשוב קצה עבר אופטימיזציה עבור זיכרון מוגבל, צרכי הספק נמוך של מכשירים מוגבלים", אמר וויליאמסון, אך מאז הם הפכו מחוברים יותר ונאלצו להתמודד עם כמויות גדולות יותר ויותר של נתונים.
"לאחר מכן נפרסה הסקת מסקנות למידת מכונה כדי לחתוך את הנתונים שנוצרו ולמצוא תובנות משמעותיות. ואז בינה מלאכותית התפתחה לא רק מלחזות את התוצאה, אלא גם לייצר נתונים חדשים ותובנות נוספות", הוסיף.
Arm טוענת כי Ethos-U85 מאפשר כעת למכשירים משובצים קטנים לתמוך ברשתות Transformer וכן ברשתות עצביות Convolutional (CNNs) להסקת AI. זה יניע את הפיתוח של יישומים חדשים, במיוחד במקרים של שימוש בחזון ו-AI עבור משימות כמו ניתוח נתונים לסיווג תמונה וזיהוי אובייקטים.
"אנו מצפים שה-Ethos-U85 ייפרס במקרים מתפתחים של שימוש בבינה מלאכותית ובהגדרות בית חכם קמעונאיות או תעשייתיות, בהן יש ביקוש למחשב עם ביצועים גבוהים זה עם תמיכה של מסגרות בינה מלאכותית האחרונות", אמר וויליאמסון.
המסגרות הללו כוללות את TensorFlow Lite ו- PyTorch, וה-NPU העדכני ביותר תואם לשרשרת הכלים הקיימת כך שמפתחים שכבר קידמו עבור Ethos יכולים להמשיך להשתמש באותם כלים וקוד עם Ethos-U85.
כדי להשלים אותו, Arm יצרה את Corstone-320 IoT Reference Design Platform, שבה יכולים שותפי חומרה להשתמש כדי ליצור במהירות עיצוב שבב.
זה משלב את אתוס-U85 עם Cortex-M85, שנטען כעיצוב הביצועים הגבוה ביותר של החברה עבור מוצרים מבוססי מיקרו-בקר, ומעבד אותות התמונה Mali-C55.
אבל Ethos-U85 יעבוד גם עם מעבדי Armv9 Cortex-A המתקדמים יותר, כדי להביא מסקנות קצה חסכוניות למגוון רחב יותר של מכשירים בעלי ביצועים גבוהים יותר, אמר Arm.
Corstone-320 פותחה מתוך מחשבה על יישומים כמו מערכות מצלמות המופעלות על ידי סוללה לבית החכם, מצלמות מחוברות המשמשות בקווי ייצור תעשייתיים ומערכות קמעונאיות, לפי ויליאמסון.
הפלטפורמה כוללת כלי תוכנה ותמיכה כולל זרוע חומרה וירטואלית. יכולת אחרונה זו מאפשרת להתחיל בפיתוח תוכנה לפני שהסיליקון הסופי יהיה זמין, אומר Arm, ומאיץ את הזמן לשוק עבור התקני AI מורכבים.
Arm גם רואה הזדמנות לגרסאות קטנות של דגמי AI גנרטיביים לפעול בקצה במערכות משובצות, ולטענתה הפלטפורמה הזו תאפשר זאת.
וויליאמסון אמר שלארם כבר יש שותפים שמתנסים בהפעלת דגמי בינה מלאכותית.
"אנחנו מצפים לראות פלטפורמות המבוססות על Ethos-U85 בסיליקון במכשירים בשנה הבאה ב-2025, אז זו הנקודה שבה נוכל לראות את הראשונות מבין אלה שמרוויחות מהביצועים המשופרים האלה", אמר. הקופה.
ניתן לראות זאת במקרים של שימושים כמו מודלים קטנים יותר של שפות ספריות לתמיכה מקומית בזיהוי קול ותגובה קולית, היכולת להשתמש במגוון רחב הרבה יותר של מילים ושפה במקום להיות מקובעים למספר מוגבל של מילות מפתח, לפי וויליאמסון. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2024/04/09/arm_ethos_u85/
