내년 상반기 상용화 목표... 최대 400TOPS 성능 갖춰

퀄컴테크날러지는 서버용 고성능 인공지능(AI) 추론 가속기 '퀄컴 클라우드 AI 100(Qualcomm Cloud AI 100)'의 출하를 시작했다./퀄컴

퀄컴테크날러지는 서버용 고성능 인공지능(AI) 추론 가속기 '퀄컴 클라우드 AI 100(Qualcomm Cloud AI 100)'의 출하를 시작했다고 17일 밝혔다.

퀄컴 클라우드 AI 100은 우데이터센터, 클라우드 엣지, 엣지 어플라이언스, 5G 인프라 등 다양한 환경에서 AI 솔루션을 지원한다. 최대 400TOPS(Trillion Operations Per Second) 처리 능력을 갖춘 와트당 성능을 기반으로 최첨단 AI 추론 효율성을 제공한다. 15W에서 75W에 이르는 PCI-E 카드 수준의 전력 프로필을 갖는 여러 폼펙터로 제공된다.

퀄컴 클라우드 AI 100 소프트웨어 제품군은 포괄적인 툴 스택을 제공하며 텐서플로(Tensorflow), 파이토치(PyTorch), 카페(Caffe) 등 인기 프레임워크와 글로우(GLOW), ONNX 등 런타임 등을 지원한다. 소프트웨어 제품군에는 컴파일러 및 시뮬레이터가 내장된 퀄컴 클라우드 AI 100 애플리케이션 소프트웨어 개발 키트(SDK)와 런타임, API, 커널 드라이버 및 툴이 탑재된 플랫폼 SDK가 포함돼있다. 해당 소프트웨어 제품군은 다양한 생산 환경에서 퀄컴 클라우드 AI 100 플랫폼을 개발하고, 테스트 및 구축할 수 있다.

이번에 공개된 퀄컴 클라우드 AI 100 엣지 개발 키트(Qualcomm Cloud AI 100 Edge Development Kit)는 퀄컴 클라우드 AI 100와 함께 애플리케이션을 구동하고 영상 처리를 지원하는 퀄컴 스냅드래곤 865 모듈러 플랫폼과 5G 연결 기능을 구현하는 스냅드래곤 X55 모뎀 등 3가지 모듈로 구성된다. . 5G 연결을 통해 최대 24개의 1080p 영상 스트림을 동시에 처리할 수 있는 완벽한 시스템 솔루션이라고 회사는 설명했다.

키스 크레신(Keith Kressin) 퀄컴 테크날러지 수석 부사장 겸 컴퓨팅 및 엣지 클라우드 담당 본부장은 "퀄컴 테크날러지는 와트당 성능 측면에서 업계를 선도하는 엣지-투-클라우드 고성능 AI 솔루션의 완성을 뒷받침할 수 있는 역량을 갖췄다"며 "퀄컴 클라우드 AI 100은 전 세계 일부 고객을 대상으로 출하가 시작되었으며, 2021년 상반기에 상용화 제품 출시를 기대한다”고 덧붙였다.

저작권자 © KIPOST(키포스트) 무단전재 및 재배포 금지