Arm 的目标是通过其最新的嵌入式神经处理单元 (NPU) 和可供其插入的参考设计平台来提高边缘人工智能性能，并表示预计明年将看到基于该单元的设备运行生成式人工智能模型。
Ethos 系列是 Arm 的 NPU 产品组合，Ethos-U 系列是嵌入式版本，或所谓的 microNPU，旨在与芯片设计人员的 Cortex-M 处理器之一配合使用。
Arm 声称，与前几代产品相比，Ethos-U85 的性能提升了 4 倍，能效提高了 20%。原因之一是它可以配置 128 个至 2,048 个乘法累加单元，后者是现有乘法累加单元数量的四倍。 精神-U65，在 4 GHz 下提供高达 1 TOP（每秒万亿次操作）的性能。
Arm 物联网业务线高级副总裁兼总经理 Paul Williamson 表示，这一举措是必要的，因为对嵌入式系统的人工智能和机器学习 (ML) 处理需求正在不断增长。
威廉姆森说：“第一波边缘计算针对有限的内存和受限设备的低功耗需求进行了优化，”但从那时起，它们变得更加互联，并且不得不应对越来越大的数据量。
“然后部署机器学习推理来处理生成的数据并找到有意义的见解。然后人工智能的发展不仅限于预测结果，而且还生成新数据和进一步的见解，”他补充道。
Arm 声称，Ethos-U85 现在允许小型嵌入式设备支持 Transformer 网络以及用于 AI 推理的卷积神经网络 (CNN)。这将推动新应用程序的开发，特别是在视觉和生成人工智能用例中，用于分析图像分类和对象检测数据等任务。
Williamson 表示：“我们预计 Ethos-U85 将部署在新兴的边缘人工智能用例以及智能家居零售或工业环境中，这些领域需要在最新人工智能框架的支持下进行高性能计算。”
这些框架包括 TensorFlow Lite 和 PyTorch，最新的 NPU 与现有工具链兼容，因此已经为 Ethos 编写代码的开发人员可以继续使用与 Ethos-U85 相同的工具和代码。
作为补充，Arm 创建了 Corstone-320 物联网参考设计平台，硬件合作伙伴可以使用该平台快速创建芯片设计。
这将 Ethos-U85 与 的Cortex-M85，据称是该公司基于微控制器的产品的最高性能设计，以及 Mali-C55 图像信号处理器。
Arm 表示，Ethos-U85 还将与高端 Armv9 Cortex-A CPU 配合使用，将节能边缘推理引入更广泛的高性能设备中。
Williamson 表示，Corstone-320 的开发考虑了智能家居电池供电摄像头系统、工业生产线中使用的联网摄像头以及零售系统等应用。
该平台包括软件工具和支持，包括 Arm 虚拟硬件。 Arm 表示，后一种功能允许在最终芯片可用之前开始软件开发，从而加快复杂边缘人工智能设备的上市时间。
Arm 还看到了小型版本的生成式 AI 模型在嵌入式系统边缘运行的机会，并声称该平台将实现这一点。
威廉姆森表示，Arm 已经有合作伙伴正在试验运行生成式人工智能模型。
他表示：“我们预计明年 85 年将在设备中看到基于 Ethos-U2025 的硅平台，到那时我们将能够看到第一批受益于性能改进的平台。” 注册.
威廉姆森表示，这可能会在用例中看到，例如用于语音检测和语音响应本地化支持的较小库语言模型，能够使用更广泛的单词和语言，而不是固定于有限数量的关键字。 ®
