Arm zielt darauf ab, die KI-Leistung an der Edge mit seiner neuesten eingebetteten neuronalen Verarbeitungseinheit (NPU) und einer Referenzdesign-Plattform zu steigern, in die es integriert werden kann, und sagte, es gehe davon aus, dass darauf basierende Geräte im nächsten Jahr mit generativen KI-Modellen laufen werden.

Bei der Ethos-Reihe handelt es sich um das NPU-Portfolio von Arm, und bei der Ethos-U-Serie handelt es sich um eingebettete Versionen oder sogenannte microNPUs, die für die Kombination mit einem der Cortex-M-Prozessoren des Chipdesigners konzipiert sind.

Mit dem Ethos-U85 verspricht Arm eine vierfache Leistungssteigerung und eine um 4 Prozent höhere Energieeffizienz im Vergleich zu früheren Generationen. Ein Grund dafür ist, dass es mit 20 bis zu 128 Multiplikations-Akkumulations-Einheiten konfiguriert werden kann, wobei letztere das Vierfache der vorhandenen Anzahl ist Ethos-U65und liefert eine Leistung von bis zu 4 TOPs (Billionen Operationen pro Sekunde) bei 1 GHz.

Dieser Schritt ist erforderlich, da die Anforderungen an die Verarbeitung von KI und maschinellem Lernen (ML) an eingebettete Systeme steigen, so Paul Williamson, SVP und GM der IoT Line of Business von Arm.

„Die erste Edge-Computing-Welle war für begrenzten Speicher und geringen Strombedarf eingeschränkter Geräte optimiert“, sagte Williamson, aber seitdem sind sie stärker vernetzt und mussten mit immer größeren Datenmengen zurechtkommen.

„Anschließend wurde maschinelles Lernen eingesetzt, um die generierten Daten zu verarbeiten und aussagekräftige Erkenntnisse zu gewinnen. Und dann hat sich die KI weiterentwickelt, indem sie nicht nur das Ergebnis vorhersagt, sondern auch neue Daten und weitere Erkenntnisse generiert“, fügte er hinzu.

Arm behauptet, dass Ethos-U85 es nun kleinen eingebetteten Geräten ermöglicht, Transformer Networks sowie Convolutional Neural Networks (CNNs) für die KI-Inferenz zu unterstützen. Dies wird die Entwicklung neuer Anwendungen vorantreiben, insbesondere in Vision- und generativen KI-Anwendungsfällen für Aufgaben wie die Analyse von Daten zur Bildklassifizierung und Objekterkennung.

„Wir gehen davon aus, dass Ethos-U85 in aufkommenden Edge-KI-Anwendungsfällen und Smart-Home-Einzelhandels- oder Industrieumgebungen eingesetzt wird, wo eine Nachfrage nach Hochleistungsrechnern mit Unterstützung der neuesten KI-Frameworks besteht“, sagte Williamson.

Zu diesen Frameworks gehören TensorFlow Lite und PyTorch, und die neueste NPU ist mit der vorhandenen Toolchain kompatibel, sodass Entwickler, die bereits für Ethos programmiert haben, weiterhin dieselben Tools und denselben Code mit Ethos-U85 verwenden können.

Als Ergänzung hat Arm die Corstone-320 IoT Reference Design Platform entwickelt, mit der Hardware-Partner schnell ein Chip-Design erstellen können.

Dies kombiniert Ethos-U85 mit Cortex-M85, angeblich das leistungsstärkste Design des Unternehmens für mikrocontrollerbasierte Produkte, und der Bildsignalprozessor Mali-C55.

Aber Ethos-U85 wird auch mit den High-End-Armv9-Cortex-A-CPUs zusammenarbeiten, um energieeffiziente Edge-Inferenz in eine breitere Palette leistungsstärkerer Geräte zu integrieren, sagte Arm.

Laut Williamson wurde Corstone-320 mit Blick auf Anwendungen wie batteriebetriebene Kamerasysteme für das Smart Home, vernetzte Kameras für industrielle Produktionslinien und Einzelhandelssysteme entwickelt.

Die Plattform umfasst Softwaretools und Support, einschließlich Virtuelle Hardware bewaffnen. Diese letztgenannte Fähigkeit ermöglicht es, die Softwareentwicklung zu beginnen, bevor das endgültige Silizium verfügbar ist, sagt Arm, was die Markteinführung komplexer Edge-KI-Geräte beschleunigt.

Arm sieht auch eine Chance für die Ausführung kleiner Versionen generativer KI-Modelle am Rande eingebetteter Systeme und behauptet, dass diese Plattform dies ermöglichen wird.

Williamson sagte, dass Arm bereits Partner habe, die mit der Ausführung generativer KI-Modelle experimentieren.

„Wir gehen davon aus, dass wir nächstes Jahr im Jahr 85 Plattformen auf Basis des Ethos-U2025 in Silizium in Geräten sehen werden. Das ist also der Punkt, an dem wir die ersten sehen können, die von dieser verbesserten Leistung profitieren“, sagte er Das Register.

Dies könnte laut Williamson in Anwendungsfällen wie kleineren Bibliothekssprachmodellen zur lokalisierten Unterstützung der Spracherkennung und Sprachantwort zu beobachten sein, die in der Lage sind, ein viel breiteres Spektrum an Wörtern und Sprachen zu verwenden, anstatt auf eine begrenzte Anzahl von Schlüsselwörtern festgelegt zu sein. ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2024/04/09/arm_ethos_u85/