Arm прагне підвищити продуктивність штучного інтелекту на краю за допомогою свого останнього вбудованого нейронного процесора (NPU) і еталонної платформи дизайну, до якої він буде використовуватися, і заявив, що очікує побачити пристрої на його основі, що працюють з генеративними моделями штучного інтелекту, наступного року.
Лінійка Ethos — це портфоліо NPU Arm, а серія Ethos-U — це вбудовані версії, або так звані microNPU, розроблені для роботи в парі з одним із процесорів Cortex-M від розробника мікросхем.
З Ethos-U85 Arm заявляє про 4-кратне підвищення продуктивності та на 20 відсотків більшу енергоефективність порівняно з попередніми поколіннями. Однією з причин цього є те, що він може бути налаштований із 128 до 2,048 одиниць множення-накопичення, причому остання кількість у чотири рази перевищує кількість існуючих Етос-У65, що забезпечує продуктивність до 4 TOP (трильйонів операцій за секунду) на частоті 1 ГГц.
За словами старшого віце-президента та генерального директора Arm IoT Line of Business, Пола Вільямсона, цей крок необхідний, тому що вимоги до штучного інтелекту та машинного навчання (ML) для обробки вбудованих систем зростають.
«Перша хвиля периферійних обчислень була оптимізована для обмеженої пам’яті та низьких потреб у електроенергії обмежених пристроїв», — сказав Вільямсон, але з того часу вони стали більш зв’язаними й змушені були боротися з все більшими й більшими обсягами даних.
«Потім було застосовано логічний висновок машинного навчання для обробки згенерованих даних і пошуку значущої інформації. І тоді штучний інтелект розвинувся не тільки з передбачення результату, але й зі створення нових даних і подальших ідей», — додав він.
Arm стверджує, що Ethos-U85 тепер дозволяє малим вбудованим пристроям підтримувати трансформаторні мережі, а також згорткові нейронні мережі (CNN) для висновків ШІ. Це стимулюватиме розробку нових додатків, зокрема у сфері зору та генеративного штучного інтелекту для таких завдань, як аналіз даних для класифікації зображень і виявлення об’єктів.
«Ми очікуємо, що Ethos-U85 буде розгорнуто в нових сценаріях використання периферійного штучного інтелекту та в роздрібних магазинах розумного будинку або промислових умовах, де є попит на високопродуктивні обчислення з підтримкою новітніх фреймворків штучного інтелекту», — сказав Вільямсон.
Ці фреймворки включають TensorFlow Lite та PyTorch, а остання версія NPU сумісна з існуючим ланцюжком інструментів, тому розробники, які вже писали код для Ethos, можуть продовжувати використовувати ті самі інструменти та код з Ethos-U85.
Щоб доповнити його, Arm створила платформу Corstone-320 IoT Reference Design Platform, яку партнери з апаратного забезпечення можуть використовувати для швидкого створення дизайну чіпа.
Це поєднує Ethos-U85 з Кортекс-М85, який вважається найефективнішим дизайном компанії для продуктів на основі мікроконтролерів, і процесор сигналу зображення Mali-C55.
Але Ethos-U85 також працюватиме з процесорами Armv9 Cortex-A вищого класу, щоб забезпечити енергоефективний висновок у більш широкому діапазоні високопродуктивних пристроїв, сказав Арм.
За словами Вільямсона, Corstone-320 був розроблений з урахуванням таких застосувань, як системи камер з живленням від батарейок для розумного будинку, підключені камери, що використовуються в промислових виробничих лініях, і системи роздрібної торгівлі.
Платформа включає програмні засоби та підтримку в тому числі Arm Virtual Hardware. Ця остання можливість дозволяє розпочинати розробку програмного забезпечення до того, як буде доступний остаточний кремній, каже Арм, пришвидшуючи час виходу на ринок складних периферійних пристроїв ШІ.
Arm також бачить можливість для невеликих версій генеративних моделей штучного інтелекту працювати на межі вбудованих систем, і стверджує, що ця платформа дозволить це зробити.
Вільямсон сказав, що у Arm вже є партнери, які експериментують із запуском генеративних моделей ШІ.
«Ми очікуємо, що наступного року, у 85 році, у пристроях з’являться кремнієві платформи на основі Ethos-U2025, тож саме тоді ми зможемо побачити перші з них, які скористаються покращеною продуктивністю», — сказав він. Реєстр.
За словами Вільямсона, це можна побачити у таких випадках використання, як менші бібліотечні мовні моделі для локалізованої підтримки виявлення голосу та голосової відповіді, що дозволяє використовувати набагато ширший діапазон слів і мови замість обмеженої кількості ключових слів. ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/04/09/arm_ethos_u85/
