Компания Arm стремится повысить производительность искусственного интеллекта на периферии с помощью своего новейшего встроенного нейронного процессора (NPU) и платформы эталонного дизайна, в которую он может быть встроен, и заявила, что ожидает увидеть устройства на его основе, использующие генеративные модели искусственного интеллекта в следующем году.

Линейка Ethos представляет собой портфолио NPU компании Arm, а серия Ethos-U представляет собой встроенные версии, или так называемые microNPU, предназначенные для работы в паре с одним из процессоров Cortex-M разработчика чипов.

Arm заявляет о четырехкратном повышении производительности и повышении энергоэффективности Ethos-U85 по сравнению с предыдущими поколениями. Одна из причин этого заключается в том, что он может быть сконфигурирован от 4 до 20 многонакопительных блоков, причем последнее в четыре раза больше, чем в существующих устройствах. Этос-U65, обеспечивая производительность до 4 TOP (триллионов операций в секунду) на частоте 1 ГГц.

По словам старшего вице-президента и генерального директора IoT направления бизнеса Arm Пола Уильямсона, этот шаг необходим, поскольку требования к обработке искусственного интеллекта и машинного обучения (ML), предъявляемые к встроенным системам, растут.

«Первая волна периферийных вычислений была оптимизирована для ограниченной памяти и низкого энергопотребления ограниченных устройств», — сказал Уильямсон, но с тех пор они стали более взаимосвязанными и им приходилось иметь дело с все большими и большими объемами данных.

«Затем были применены методы машинного обучения для обработки сгенерированных данных и поиска значимой информации. А затем ИИ превратился не только в предсказание результата, но и в генерирование новых данных и дальнейших идей», — добавил он.

Арм утверждает, что Ethos-U85 теперь позволяет небольшим встроенным устройствам поддерживать трансформаторные сети, а также сверточные нейронные сети (CNN) для вывода ИИ. Это будет стимулировать разработку новых приложений, особенно в области машинного зрения и генеративного ИИ для таких задач, как анализ данных для классификации изображений и обнаружения объектов.

«Мы ожидаем, что Ethos-U85 будет использоваться в новых сценариях использования искусственного интеллекта, а также в розничной торговле или промышленности для умного дома, где существует спрос на высокопроизводительные вычисления с поддержкой новейших платформ искусственного интеллекта», — сказал Уильямсон.

Эти платформы включают TensorFlow Lite и PyTorch, а последняя версия NPU совместима с существующей цепочкой инструментов, поэтому разработчики, которые уже написали код для Ethos, могут продолжать использовать те же инструменты и код с Ethos-U85.

В дополнение к этому компания Arm создала эталонную платформу проектирования IoT Corstone-320, которую партнеры по аппаратному обеспечению могут использовать для быстрого создания проекта чипа.

Это сочетает в себе Ethos-U85 с Cortex-M85, заявленный как самая производительная разработка компании для продуктов на базе микроконтроллеров, и процессор сигналов изображения Mali-C55.

Но Ethos-U85 также будет работать с процессорами Armv9 Cortex-A более высокого класса, чтобы обеспечить энергоэффективный анализ границ в более широком диапазоне высокопроизводительных устройств, сказал Арм.

По словам Уильямсона, Corstone-320 был разработан с учетом таких приложений, как системы камер с батарейным питанием для умного дома, подключенные камеры, используемые на промышленных производственных линиях и в системах розничной торговли.

Платформа включает в себя программные инструменты и поддержку, включая Активировать виртуальное оборудование. По словам Арма, эта последняя возможность позволяет начать разработку программного обеспечения до того, как появится готовая микросхема, что ускоряет вывод на рынок сложных периферийных устройств искусственного интеллекта.

Арм также видит возможность запуска небольших версий генеративных моделей искусственного интеллекта на периферии встроенных систем и утверждает, что эта платформа позволит это сделать.

Уильямсон сказал, что у Arm уже есть партнеры, которые экспериментируют с использованием генеративных моделей искусственного интеллекта.

«Мы ожидаем увидеть платформы на базе Ethos-U85 в кремниевых устройствах в следующем году, в 2025 году, так что это тот момент, когда мы сможем увидеть первых из тех, кто выиграет от этой улучшенной производительности», — сказал он. Регистр.

По словам Уильямсона, это можно увидеть в таких случаях использования, как небольшие библиотеки языковых моделей для локализованной поддержки распознавания голоса и голосового ответа, позволяющие использовать гораздо более широкий диапазон слов и языка, а не ограничиваться ограниченным количеством ключевых слов. ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2024/04/09/arm_ethos_u85/