AI 애플리케이션 기술 개발에 최적화
VM웨어의 'v스피어' 환경에서 고성능 구현

엔비디아(NVIDIA)와 VM웨어(VMware)의 로고.
엔비디아(NVIDIA)와 VM웨어(VMware)의 로고.

엔비디아가 기업용 AI(인공지능) 소프트웨어 스위트인 '엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)'를 공개했다. 해당 솔루션은 함께 발표된 VM웨어(VMware)의 'v스피어7 업데이트2(vSphere7 Update2'에서 독점적으로 실행된다. 


"AI 기술이 모든 산업의 근본 바꾸는 중"  

AI⋅IoT 분야는 오픈소스 ISA를 활용한 자체 코어 아키텍처를 만들려는 움직임이 활발하다. /사진=pixabay
AI(Artificial Interlligence). /사진=pixabay

엔비디아는 업계 최초로 AI 기술을 위한 기업용 플랫폼 개발을 위해 VM웨어와 협력했으며, 엔비디아 AI 엔터프라이즈를 통해 VM웨어 v스피어에서 AI 워크로드를 가상화했다. 엔비디아의 AI 엔터프라이즈는 헬스케어, 스마트 공장, 금융 서비스 분야 등을 포함하는 광범위한 AI 솔루션을 개발하는 데 필요한 소프트웨어를 제공하게 된다.

저스틴 보이타노(Justin Boitano) 엔비디아 엔터프라이즈 및 엣지 컴퓨팅 부사장 겸 총괄은 "AI 기술은 근본적으로 모든 산업을 변화시키고 있다"고 말하며, "전세계 가장 큰 소매업체 중 하나인 월마트(Walmart)는 고객들의 구매 성향 파악을 위해 AI를 활용하고, 아메리칸 익스프레스(American Experess)사는 신용 카드 사기를 방지하기 위해 AI 기술을 도입하고 있다"고 말했다. 


AI 최적화로 개발 기간 획기적 단축, 관리는 더 쉬워져

엔비디아 AI 엔터프라이즈 솔루션 스택. /자료=엔비디아
엔비디아 AI 엔터프라이즈. /자료=엔비디아

엔비디아는 이번에 공개된 AI 엔터프라이즈 소프트웨어 스위트가 서버 가상화를 위해 v스피어를 사용하는 IT 기업 전문가들이 대규모 데이터센터 및 하이브리드 클라우드 환경 관리에 사용하던 것과 동일한 툴로 AI를 구현할 수 있다고 설명했다. 베어메탈(bare metal)서버와 거의 다르지 않은 v스피어 환경에서 스케일 아웃, 멀티노드 AI  애플리케이션 성능을 제공한다는 설명이다. 

저스틴 보이타노는 "지금까지는 전세계가 베어메탈 서버에서 AI를 실행해왔다"며, "엔비디아 AI 엔터프라이즈는 고객이 AI 모델을 개발하는 데 걸리는 시간을 80주에서 8주로 단축하고, 베어메탈에서 구현되는 동일한 스케일 아웃, 고성능의 엔비디아 가속 컴퓨팅 기술로 v스피어에서 고급 AI 애플리케이션을 배포하고 관리할 수 있다"고 전했다. 

리 캐스웰(Lee Caswell) VM웨어 클라우드 플랫폼 사업부 마케팅 담당 부사장은 "모든 기업이 애플리케이션 요구를 충족시키기 위해 인프라의 현대화를 추진하고 있다"고 말했다. 이어 "VM웨어 고객들은 가상화된 데이터센터에서 AI를 빠르게 추적하고, 최신 애플리케이션을 위해 인증된 AI 레디(ready) 인프라를 손쉽게 구축할 수 있게 됐다"고 덧붙였다. 

 

엔비디아-VM웨어 통합 솔루션 주요 혜택

AI 엔터프라이즈는 AI 레디 인프라를 제공한다. /자료=엔비디아
AI 엔터프라이즈는 AI 레디 인프라를 제공한다. /자료=엔비디아

엔비디아 AI 엔터프라이즈는 하이브리드 클라우드 환경에서 실행되는 다양한 가속 쿠다(CUDA) 애플리케이션, AI 프레임워크, 사전 훈련된 모델 및 소프트웨어 개발 키트에 호환성을 제공한다. 풀 GPU 가상화를 통해 워크로드를 여러 노드로 확장해 대규모 딥러닝 훈련 모델을 지원할 수 있도록 최적화됐다는 것이 엔비디아 측 설명이다. 

VM웨어 v스피어7 업데이트2는 엔비디아 인증 시스템에서 '엔비디아 A100 텐서 코어 GPU' 인증을 획득했다. 이에 따라 엔비디아 AI 엔터프라이즈 라이선스를 획득하게 되는 v스피어 고객들은 엔비디아의 고객 지원을 받을 수 있다. 

엔비디아는 또한 v스피어를 엔비디아 멀티 인스턴스 GPU 기술을 통해 라이브 마이그레이션을 위한 하이퍼바이저 지원을 제공하는 유일한 서버 가상화 소프트웨어로 인증했다. 이로써, 각 A100 GPU를 하드웨어 단계에서 최대 7개의 인스턴스로 분할해 모든 크기의 워크로드에 걸쳐 효율성을 극대화하게 된다. 

엔비디아 '커넥트X(ConnectX)' 어댑터는 VM웨어의 'vSAN over RDMA' 인증을 받았다. 이를 통해 CPU 통신 작업을 오프로드해 애플리케이션 성능을 높이고, 인프라 투자 수익률을 개선할 수 있다.

v스피어 환경에서 최적화된 AI 엔터프라이즈는 베어메탈에 준하는 성능을 구현할 수 있다. /자료=엔비디아
v스피어 환경에서 최적화된 AI 엔터프라이즈는 베어메탈에 준하는 성능을 구현할 수 있다. /자료=엔비디아

엔비디아 AI 엔터프라이즈는 CPU 소켓당 3595달러에 영구 라이선스로 제공된다. 엔터프라이즈 비즈니스 표준 지원은 라이선스당 연간 899달러다. VM웨어 고객들은 v스피어7 업데이트2로 업데이트할 시 엔비디아 AI 엔터프라이즈에 대한 조기 액세스를 신청할 수 있다. 

VM웨어 하이브리드 클라우드에서 AI를 도입하는 방법은 엔비디아 블로그 혹은 VM웨어 v스피어7 업데이트2 블로그에서 자세히 확인할 수 있다. 양사의 협업 내용은 내달 중순 개최되는 'GTC 2021'에서 보다 상세히 소개될 예정이다. 

저작권자 © KIPOST(키포스트) 무단전재 및 재배포 금지