Arm, AI 최적화 클라이언트용 Arm CSS 및 Arm Kleidi 소프트웨어 발표

Arm은 인공지능(AI)에 최적화하면서 Arm 기반 솔루션을 더 쉽고 빠르게 구축할 수 있도록 지원하는 클라이언트용 Arm® 컴퓨팅 서브시스템(CSS)을 30일 발표했다.

클라이언트용 Arm CSS는 플래그십 모바일 시스텝온칩(SoC)를 위한 기본 컴퓨팅 요소를 제공하며 최신 Armv9 CPU, Immortalis™ GPU, 3nm(나노미터)에서 생산 가능한 CPU·GPU용 물리적 구현과 최신 Corelink™ 시스템 메모리 관리 유닛(SMMU)을 특징으로 한다. 또 소프트웨어 개발자가 Arm CPU에서 가능한 최고의 성능을 원활하게 이용할 수 있도록 지원하는 Arm Kleidi를 함께 공개했으며, 여기에는 AI 워크로드를 위한 KleidiAI와 컴퓨터 비전 애플리케이션을 위한 KleidiCV가 포함된다.

클라이언트용 Arm CSS는 30% 이상 향상된 컴퓨팅 및 그래픽 성능을 통해 광범위한 AI, 머신러닝 및 컴퓨터 비전(CV) 워크로드를 위한 59%의 더 빠른 AI 추론을 구현한다.

클라이언트용 CSS의 핵심은 성능과 전력 효율을 극대화하기 위한 Arm의 역대 최고 성능, 효율, 다용도 CPU 클러스터다. 새롭게 출시된 Arm Cortex-X925는 전년 대비 가장 높은 성능 향상을 제공한다. 3.8GHz 클럭 속도와 최대 캐시 크기를 기준으로 최첨단 3nm 공정 노드를 활용할 경우 2023년 스마트폰 플래그십 4nm SoC와 비교했을 때 단일 스레드 성능이 36% 향상되는 결과를 얻을 수 있다. AI의 경우 Cortex-X925는 41%의 성능 향상을 제공해 LLM(대규모 언어 모델)과 같은 온디바이스 생성 AI의 응답성을 획기적으로 개선한다.

지금까지 최고의 성능과 효율성을 갖춘 GPU인 Arm Immortalis-G925 GPU는 광범위한 주요 모바일 게임 애플리케이션에서 37% 더 높은 성능은 물론 여러 AI 및 머신러닝 네트워크에서 측정할 경우 34% 더 높은 성능을 제공한다. Immortalis-G925는 플래그십 스마트폰 시장을 위해 출시된 반면 확장성이 뛰어난 새로운 GPU 제품군인 Arm Mali™-G725 및 Mali-G625 GPU는 프리미엄 모바일 핸드셋부터 스마트워치 및 XR 웨어러블에 이르기까지 광범위한 소비자 기기 시장을 대상으로 한다.

Arm은 개발자들이 혁신적인 성능을 빠르게 구현할 수 있도록 AI 워크로드를 위한 KleidiAI와 컴퓨터 비전 애플리케이션을 위한 KleidiCV를 포함하는 Arm Kleidi를 출시한다. KleidiAI는 AI 프레임워크 개발자를 위한 컴퓨팅 커널 세트로, NEON™, SVE2 및 SME2와 같은 주요 Arm 아키텍처 기능을 지원해 다양한 디바이스에서 Arm CPU에서 설정 가능한 최고의 성능을 원활하게 이용할 수 있도록 한다. KleidiAI는 파이토치(PyTorch), 텐서플로우(Tensorflow), 미디어파이프(MediaPipe) 및 메타 라마 3(Meta Llama 3)와 같은 인기 있는 AI 프레임워크와 통합되며 이후 Arm이 새롭게 출시할 추가 기술과도 적합하도록 이전 버전과 호환이 가능하다.