Arm, 최신 세대의 Ethos-U NPU 및 IoT 레퍼런스 디자인 플랫폼으로 엣지 AI 가속화

Arm은 역대 최고 성능과 효율의 Ethos NPU인 Arm® Ethos™-U85 NPU와 음성, 오디오 및 비전 시스템을 가속화하는 새로운 IoT 레퍼런스 디자인 플랫폼인 Arm Corstone™-320을 출시했다고 9일 밝혔다.

Arm의 새로운 엣지 AI 전용 3세대 NPU인 Arm Ethos-U85는 이전 제품에 비해 4배 향상된 성능과 20% 더 높은 전력 효율성을 제공하는 동시에 공장 자동화 및 상업용과 같이 훨씬 더 높은 성능을 요구하는 애플리케이션을 지원한다. Ethos-U85는 동일하고 일관된 툴체인을 제공하므로 파트너는 기존 투자를 활용해 원활한 개발자 경험을 제공할 수 있다. 특히 텐서플로우 라이트(TensorFlow Lite) 및 파이토치(PyTorch)와 같은 AI 프레임워크를 지원한다. 

Ethos-U85는 AI 추론을 위한 CNN(Convolution Neural Network) 외에도 트랜스포머 네트워크(Transformer Network)를 구현한다. 트랜스포머 네트워크는 특히 영상의 이해와 이미지의 누락된 부분을 채우고, 비전 및 생성형 AI 사용 사례에서 새로운 애플리케이션을 주도할 것으로 전망된다.

Arm은 Armv9 Cortex-A CPU와 함께 작동하도록 Ethos-U85를 설계해 머신러닝(ML) 작업을 가속화하고 광범위한 고성능 장치에 전력 효율적인 엣지 추론을 구현했다.

Ethos NPU 제품군은 지금까지 20개 이상의 파트너로부터 라이선스를 받았다.

Arm Corstone-320 IoT 레퍼런스 디자인 플랫폼은 Arm 최고 성능의 Arm Cortex-M85 CPU, Mali-C55 이미지 신호 프로세서 및 새로운 Ethos-U85 NPU를 결합했다. 이를 통해 실시간 이미지 분류 및 사물 인식, 스마트 스피커에서 자연어 번역 기능을 갖춘 음성 어시스턴트 지원 등 음성, 오디오 및 비전을 위한 광범위한 엣지 AI 애플리케이션을 위한 성능을 제공한다.

해당 플랫폼에는 Arm 가상 하드웨어를 비롯한 소프트웨어, 툴 및 지원이 포함된다. 이에 따라 제품 개발 일정을 단축하고, 더욱 복잡해지는 엣지 AI 디바이스의 출시 시간을 빠르게 개선할 수 있다.