퀄컴 테크날러지(Qualcomm Technologies, Inc.)는 마이크로소프트 빌드 2024(Microsoft Build 2024)에서 퀄컴 AI 허브(Qualcomm® AI Hub)를 스냅드래곤® X 시리즈 플랫폼(Snapdragon® X Series Platforms)을 확대 지원한다고 22일 밝혔다.

이에 따라 개발자들은 제품 개발 기간을 단축하고 차세대 윈도우 PC에서 온디바이스 생성형 AI의 이점을 활용할 수 있게 됐다. 또 개발자들은 자체 개발한 AI 모델을 최적화해 기기 내에서 직접 실행할 수 있다. AI 모델을 온디바이스로 구동하는 것은 빠른 반응성을 비롯해 개인 정보 보안 강화, 신뢰성 향상, 한층 더 개인화된 사용자 경험 등 많은 장점이 있다.

퀄컴 AI 허브는 개발자들에게 우수한 성능의 온디바이스 AI를 구현하는 데 필요한 리소스, 도구 및 서비스를 제공하는 게이트웨이로, 100개 이상의 사전 최적화된 AI 모델 라이브러리를 보유하고 있다. 이 라이브러리는 지속적으로 확장 중이며 허깅페이스 및 깃허브에서도 사용 가능하다.

또 개발자들은 퀄컴 AI 허브의 ‘자체 모델 불러오기(Bring Your Own Model, BYOM)’ 기능을 통해 자체 개발한 모델을 스냅드래곤과 퀄컴 플랫폼에 맞춰 업로드, 최적화, 편집할 수 있으며, 파이토치(PyTorch), 텐서플로우(TensorFlow), ONNX 등 모든 주요 프레임워크를 지원한다. 이와 함께 개발자들은 간단한 코드로 클라우드 호스팅 기기에서 5분 내에 모델을 테스트 및 검증할 수도 있다. 모델 최적화 및 검증 프로세스를 간소화해 시간과 노력을 줄일 수 있으며, 개발∙배포 주기를 단축해 개발 후속 진행 역시 빠르게 할 수 있다.

삼성전자, 에이서, 에이스수, 델, HP, 레노버 등 글로벌 PC OEM은 스냅드래곤 X 엘리트 및 X 플러스 컴퓨팅 플랫폼을 탑재한 PC를 출시할 예정이다. 이를 통해 개발자들이 퀄컴 AI 허브로 차세대 디바이스에 뛰어난 경험을 구현할 수 있도록 지원한다는 계획이다.

스냅드래곤 X 시리즈 플랫폼은 광범위한 AI 개발 도구를 지원한다. ONNX 런타임(ONNX Runtime) 및 허깅페이스 옵티멈(Hugging Face Optimum)과의 긴밀한 연계와 라마(Llama.cpp) 지원 등으로, 개발자들은 스냅드래곤 X 시리즈 플랫폼에서 수천 개의 모델을 실행하고 다양한 AI 기능을 탑재한 윈도우 애플리케이션을 구축할 수 있다. 또 개발자들은 딥러닝 AI와 퀄컴이 공동 제공하는 온라인 강의에서 온디바이스 AI 및 애플리케이션에서 이를 구현하는 방법을 배울 수 있다.