엔비디아의 'DGX 슈퍼POD' 2세대... A100 GPU와 멜라녹스 네트워크 기반

엔비디아 DGX 슈퍼POD./엔비디아
엔비디아 DGX 슈퍼POD./엔비디아

엔비디아는 세계에서 20번째로 빠른 슈퍼컴퓨터 'DGX 슈퍼POD(DGX SuperPOD)'의 2세대 모델을 출시했다고 27일 밝혔다.

DGX 슈퍼POD는 엔비디아 DGX A100 시스템과 멜라녹스(Mellanox) 네트워크 패브릭을 기반으로 하며, 3주만에 구축 가능하다. 이 솔루션은 700페타플롭(PF)의 인공지능(AI) 성능을 제공, 몇 주가 소요되는 복잡한 언어 이해 모델의 처리시간을 단 한시간 내로 단축시킨다.

엔비디아는 지난해 여러 DGX 시스템을 결합한 DGX 슈퍼POD를 처음 선보였다. DGX 슈퍼POD는 가장 복잡한 문제를 병렬로 처리하고 최대한 빠르게 문제를 해결할 수 있는 아키텍처로 데이터센터의 개념을 재정의했다. 이 솔루션은 일반적으로 슈퍼컴퓨터에 들어가는 비용과 에너지 사용량을 훨씬 줄이면서도 획기적인 성능을 제공한다. 

 

DGX A100에는 시스템 당 최대 9개의 인터페이스를 갖는 200Gbps HDR 인피니밴드(InfiniBand)를 갖춘 새로운 멜라녹스 ConnectX-6 VPI 네트워크 어댑터가 내장됐다. 엔비디아는 시스템 간 상호연결성을 높이고 획기적인 성능을 제공하기 위해 멜라녹스 스위치를 활용한다. 또 엔비디아 DGX 슈퍼POD와 DGX A100을 통해 사용량 기반 지불방식(pay-as-you-grow) 모델로 쉽게 확장이 가능하면서도 운영에 미치는 영향을 최소화하도록 AI 네트워크 패브릭을 설계했다.

엔비디아는 DGX 슈퍼POD를 확장가능한 20개의 DGX A100 시스템 그룹으로 모듈화했다. 각 그룹에는 DGX A100 시스템 70개가 들어있다. A100 GPU는 총 1120개 내장됐다. 각 그룹은 멜라녹스 HDR 인피니밴드를 사용하는 2티어 팻트리(Fat-Tree) 스위치 네트워크 토폴로지로 지원돼, 초과가입(Oversubscription) 없이 완전한 바이섹션 대역폭을 제공한다. 또 세 번째 스위칭 티어를 추가하면 드래곤플라이+(DragonFly+) 또는 팻트리 토폴로지를 사용해 수천 대의 시스템으로 확장 가능하다. 이를 통해 기업들은 시스템 모듈 추가 관련 비용은 줄이면서 인프라 확장에 유연하게 대처할 수 있다.

DGX 새턴V(SATURNV)는 연구개발(R&D)부터 자율주행차 시스템 개발, 게이밍, 그리고 로보틱스에 이르는 엔비디아의 가장 중요한 작업들을 지원한다. DGX 새턴V는 비즈니스 요구에 따라 계속해서 확장이 가능하여, 새로운 슈퍼POD 설계를 위한 완벽한 성능 시험장 역할을 하고 있다.

엔비디아는 2세대 DGX 슈퍼POD의 스토리지 인프라를 위해 DDN과 협력한다. DDN은 DGX POD 파트너사 중 하나로 AI 인프라 제공에 필요한 성능과 확장성 향상을 지원한다. DGX 슈퍼POD는 DDN의 기술을 사용해 엔비디아의 최신 시스템에서 발생할 수 있는 가장 까다로운 워크로드를 지원한다.

엔비디아 측은 "모든 업계에 걸쳐 선도적인 기업들은 고객 충성도 유지, 비용절감, 경쟁 업체와의 차별화를 위해 AI를 적극 활용하고 있다"며 "기업들은 엔비디아 DGX 슈퍼POD와 DGX A100가 제공하는 획기적인 성능, 신속성, 그리고 확장성을 활용해 그들이 당면한 AI 관련 도전과제를 해결하고 비즈니스 성과를 달성할 수 있다"고 말했다.

저작권자 © KIPOST(키포스트) 무단전재 및 재배포 금지