Arm은 최신 내장형 신경 처리 장치(NPU)와 이를 탑재할 참조 설계 플랫폼을 통해 엣지에서 AI 성능을 향상시키는 것을 목표로 하고 있으며, 내년에는 이를 기반으로 하는 장치에서 생성적 AI 모델을 실행할 수 있을 것으로 기대한다고 밝혔습니다.

Ethos 라인업은 Arm의 NPU 포트폴리오이며, Ethos-U 시리즈는 칩 설계자의 Cortex-M 프로세서 중 하나와 결합되도록 설계된 임베디드 버전, 즉 소위 microNPU입니다.

Arm은 Ethos-U85를 통해 이전 세대에 비해 성능이 4배 향상되고 전력 효율성이 20% 향상되었다고 주장합니다. 그 이유 중 하나는 곱셈 단위를 128개에서 최대 2,048개까지 구성할 수 있기 때문인데 후자는 기존의 XNUMX배가 된다. 에토스-U65, 4GHz에서 최대 1TOP(초당 수조 작업)의 성능을 제공합니다.

Arm의 IoT 사업 부문 SVP 겸 GM인 Paul Williamson에 따르면, 임베디드 시스템에 대한 AI 및 기계 학습(ML) 처리 수요가 증가하고 있기 때문에 이러한 조치가 필요하다고 합니다.

Williamson은 "에지 컴퓨팅의 첫 번째 물결은 제한된 메모리, 제한된 장치의 저전력 요구에 최적화되었지만 그 이후로 연결성이 더욱 높아졌고 점점 더 많은 양의 데이터와 싸워야 했습니다."라고 말했습니다.

“그런 다음 생성된 데이터를 처리하고 의미 있는 통찰력을 찾기 위해 기계 학습 추론이 배포되었습니다. 그리고 AI는 결과를 예측하는 것뿐만 아니라 새로운 데이터와 추가 통찰력을 생성하는 것에서 진화했습니다.”라고 그는 덧붙였습니다.

Arm은 이제 Ethos-U85를 통해 소형 임베디드 장치가 AI 추론을 위한 CNN(Convolutional Neural Network)은 물론 Transformer Networks도 지원할 수 있다고 주장합니다. 이는 특히 이미지 분류 및 객체 감지를 위한 데이터 분석과 같은 작업을 위한 비전 및 생성 AI 사용 사례에서 새로운 애플리케이션의 개발을 촉진할 것입니다.

Williamson은 “Ethos-U85가 최신 AI 프레임워크 지원을 통해 고성능 컴퓨팅에 대한 수요가 있는 새로운 엣지 AI 사용 사례와 스마트 홈 소매 또는 산업 환경에 배포될 것으로 기대합니다.”라고 말했습니다.

이러한 프레임워크에는 TensorFlow Lite 및 PyTorch가 포함되어 있으며 최신 NPU는 기존 도구 체인과 호환되므로 이미 Ethos용으로 코딩한 개발자는 Ethos-U85에서 동일한 도구 및 코드를 계속 사용할 수 있습니다.

이를 보완하기 위해 Arm은 하드웨어 파트너가 칩 설계를 빠르게 생성하는 데 사용할 수 있는 Corstone-320 IoT 참조 설계 플랫폼을 만들었습니다.

이것은 Ethos-U85와 피질 -M85, 마이크로컨트롤러 기반 제품을 위한 회사 최고의 성능 설계 및 Mali-C55 이미지 신호 프로세서로 주장됩니다.

그러나 Ethos-U85는 고급 Armv9 Cortex-A CPU와도 작동하여 더 광범위한 고성능 장치에 전력 효율적인 에지 추론을 제공할 것이라고 Arm은 말했습니다.

Williamson에 따르면 Corstone-320은 스마트 홈용 배터리 구동 카메라 시스템, 산업 생산 라인에 사용되는 연결된 카메라, 소매 시스템과 같은 애플리케이션을 염두에 두고 개발되었습니다.

플랫폼에는 다음을 포함한 소프트웨어 도구 및 지원이 포함됩니다. Arm 가상 하드웨어. Arm은 후자의 기능을 통해 최종 실리콘이 출시되기 전에 소프트웨어 개발을 시작할 수 있어 복잡한 엣지 AI 장치의 출시 시간을 단축할 수 있다고 말했습니다.

Arm은 또한 생성적 AI 모델의 소형 버전이 임베디드 시스템의 엣지에서 실행될 수 있는 기회를 보고 이 플랫폼이 이를 가능하게 할 것이라고 주장합니다.

Williamson은 Arm이 이미 생성 AI 모델 실행을 실험하고 있는 파트너를 보유하고 있다고 말했습니다.

"우리는 내년 85년에 장치의 실리콘에 Ethos-U2025 기반 플랫폼을 볼 것으로 예상합니다. 따라서 향상된 성능으로 혜택을 받는 제품 중 첫 번째를 볼 수 있는 시점이 될 것입니다."라고 그는 말했습니다. 등록.

Williamson에 따르면 이는 음성 감지 및 음성 응답의 지역화된 지원을 위한 소규모 라이브러리 언어 모델과 같은 사용 사례에서 볼 수 있으며, 제한된 수의 키워드에 고정되기보다는 훨씬 더 광범위한 단어와 언어를 사용할 수 있다고 합니다. ®

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://go.theregister.com/feed/www.theregister.com/2024/04/09/arm_ethos_u85/