AMD Instinct™ MI300X 가속기가 탑재된 새로운 8-GPU 시스템, 이제 대규모 AI 교육 및 LLM 배포를 위한 획기적인 AI 및 HPC 성능 사용이 가능
산호세, 캘리포니아주, 2023년 12월 9일 /PRNewswire/ -- Supermicro, Inc. (NASDAQ: SMCI)는 AI, 클라우드, 스토리지 및 5G/Edge를 위한 종합 IT 솔루션 제조업체로서 새로운 AMD Instinct MI300 시리즈 가속기를 기반으로 최첨단 성능과 효율성을 제공하도록 최적화된 AMD 기반 H13 세대 GPU 서버에 세 가지 새로운 사항이 추가되었음을 발표한다. AMD Instinct MI300X OAM 구성을 갖춘 8-GPU 서버가 있는 Supermicro의 강력한 랙 규모 솔루션은 대규모 모델 학습에 이상적이다.
AMD Instinct MI300A APU(가속 처리 장치) 가속기를 탑재한 새로운 2U 수냉식 및 4U 공랭식 서버를 사용할 수 있으며 데이터 센터 효율성을 향상하고 AI, LLM 및 HPC에서 빠르게 증가하는 복잡한 요구를 충족한다. 새로운 시스템에는 확장 가능한 애플리케이션을 위한 쿼드 APU가 포함되어 있다. Supermicro는 랙당 최대 1,728 TFlops의 FP64 성능을 갖춘 대규모 환경을 위한 완전한 수냉식 랙을 제공할 수 있다. Supermicro의 전 세계 제조 시설은 AI와 HPC 융합을 위한 이러한 새로운 서버의 제공을 간소화한다.
Supermicro의 사장 겸 CEO인 Charles Liang은 "우리는 이전 세대에 비해 최대 3.4배 향상된 성능을 갖춘 최신 세대의 AMD Instinct 가속기를 통해 AI 학습을 위한 랙 규모의 전체 IT 솔루션을 확장하게 되어 매우 기쁩니다. 전 세계 제조 시설에서 매달 4,000개의 수냉식 랙을 제공할 수 있는 능력을 가지고 당사는 AMD의 Instinct MI300X 가속기 또는 AMD Instinct MI300A APU가 포함된 최신 H13 GPU 솔루션을 제공할 수 있습니다. 당사의 검증된 아키텍처는 완전히 통합된 액체 냉각 솔루션이 가능한 대규모 AI 및 슈퍼컴퓨팅 클러스터용으로 설계된 각 GPU의 전용 1:1 400G 네트워킹을 허용하여 고객에게 손쉬운 배포와 함께 성능 및 탁월한 효율성에 대한 경쟁 우위를 제공합니다."라고 말했다.
AMD 가속기를 탑재한 Supermicro 서버에 대해 자세히 알아보기
LLM에 최적화된 AS –8125GS-TNMR2 시스템은 공냉식 및 수냉식 랙 규모 설계를 갖춘 고성능 AI 시스템을 위한 검증된 설계인 Supermicro의 빌딩 블록 아키텍처를 기반으로 구축되었다. 균형 잡힌 시스템 설계는 GPU를 1:1 네트워킹과 연결하여 노드와 랙 전체에 걸쳐 큰 고대역폭 메모리 풀을 제공하여 최대 수조 개의 매개 변수가 있는 오늘날의 가장 큰 언어 모델에 적합하도록 하며, 병렬 컴퓨팅을 최대화하고 학습 시간과 추론 대기 시간을 최소화한다. MI300X OAM 가속기가 탑재된 8U 시스템은 AMD Infinity Fabric™ 링크를 통해 8-GPU의 원시 가속 성능을 제공하여 단일 시스템에서 업계 최고의 1.5TB HBM3 GPU 메모리를 갖춘 개방형 표준 플랫폼에서 최대 896GB/s의 이론적 피크 P2P I/O 대역폭을 지원하고 기본 희소 매트릭스 지원을 통해 전력을 절약하고 컴퓨팅 주기를 낮추며 AI 워크로드에 대한 메모리 사용을 줄인다. 각 서버는 최대 256개의 코어를 갖춘 듀얼 소켓 AMD EPYC™ 9004 시리즈 프로세서를 갖추고 있다. 랙 규모에서는 가장 까다로운 AI 환경에 1000개 이상의 CPU 코어, 24TB의 DDR5 메모리, 6.144TB의 HBM3 메모리 및 9728개의 컴퓨팅 유닛을 사용할 수 있다. Supermicro가 8U 구성에 상당한 경험을 보유한 OAM(OCP 가속기 모듈)을 사용하면 완전히 구성된 서버를 맞춤형 설계보다 더 빠르게 시장에 출시할 수 있어 비용과 배송 시간이 단축된다.
Supermicro는 또한 밀도가 최적화된 2U 수냉식 서버인 AS –2145GH-TNMR과 4U 공냉식 서버인 AS –4145GH-TNMR을 도입하고 있다(각각 4개의 AMD Instinct™ MI300A 가속기 포함). 새로운 서버는 매우 빠른 CPU-GPU 통신이 필요한 HPC 및 AI 애플리케이션용으로 설계되었다. APU는 최고 성능의 AMD CPU, GPU 및 HBM3 메모리를 단일 칩에 결합하여 중복된 메모리 복사본을 제거한다. 각 서버에는 애플리케이션 확장을 위한 우위의 x86 "Zen4" CPU 코어가 포함되어 있다. 또한 각 서버에는 512GB의 HBM3 메모리가 포함되어 있다. 21개의 2U 시스템으로 구성된 전체 랙(48U) 솔루션에서는 10TB 이상의 HBM3 메모리와 19,152개의 컴퓨팅 유닛을 사용할 수 있다. HBM3-CPU 메모리 대역폭은 5.3TB/초이다.
두 시스템 모두 400G 이더넷을 지원하는 듀얼 AIOM과 고성능 컴퓨팅을 위한 공간, 확장성 및 효율성을 향상시키도록 설계된 확장된 네트워킹 옵션을 갖추고 있다. 2U 다이렉트 칩(Direct-to-chip) 수냉식 시스템은 95,256와트 공냉식 랙에 비해 랙당 61,780와트를 생산하고 공랭식 시스템에 비해 팬 수를 70% 감소시키는 21개의 2U 시스템 랙 솔루션을 기반으로 35% 이상의 에너지 소비 절감으로 탁월한 TCO를 제공한다.
AMD 데이터 센터 솔루션 비즈니스 그룹의 총괄 부사장 겸 총괄 관리자인 Forrest Norrod는 "AMD Instinct MI300 시리즈 가속기는 오랫동안 가속화된 고성능 컴퓨팅 애플리케이션과 빠르게 증가하는 생성형 AI에 대한 수요 모두에 대해 우위 성능을 제공합니다. 당사는 MI300 시리즈 가속기를 기반으로 하고 시스템 및 데이터 센터 설계에 대한 Supermicro의 전문 지식을 활용하여 최첨단 AI 및 HPC 종합 솔루션을 시장에 출시하기 위해 Supermicro와 계속 긴밀하게 협력하고 있습니다."라고 말했다.
Supermicro 및 AMD 전문가로부터 자세히 알아보세요. 이 웨비나를 실시간 또는 주문형으로 시청하세요.
자세한 정보는 다음을 확인하세요.
Supermicro AMD Accelerator Site
AS -8125GS-TNMR2 (8U w/ MI300x)
AS -2145GH-TNMR (2U LC w/ MI300A)
AS -4145GH-TNMR (4U AC w/ MI300A)
Super Micro Computer, Inc. 소개
Supermicro (NASDAQ: SMCI)는 애플리케이션에 최적화된 종합 IT 솔루션 분야의 글로벌 리더입니다. 캘리포니아주 산호세에서 설립되어 운영되는 Supermicro는 엔터프라이즈, 클라우드, AI 및 5G 통신/엣지 IT 인프라를 위한 시장 혁신을 최초로 제공하기 위해 최선을 다하고 있습니다. 당사는 서버, AI, 스토리지, IoT, 스위치 시스템, 소프트웨어 및 지원 서비스를 갖춘 종합IT 솔루션 제조업체입니다. Supermicro의 마더보드, 전원 및 섀시 설계 전문 지식은 당사의 개발과 생산을 더욱 지원하여 글로벌 고객을 위해 클라우드에서 엣지까지 차세대 혁신을 가능하게 합니다. 당사의 제품은 규모와 효율성을 위해 글로벌 운영을 활용하고 TCO를 개선하고 환경에 미치는 영향을 줄이기 위해 최적화된(그린 컴퓨팅) 사내(미국, 아시아 및 네덜란드)에서 설계 및 제조됩니다. 수상 경력에 빛나는 Server Building Block Solutions® 포트폴리오를 통해 고객은 포괄적인 폼 팩터, 프로세서, 메모리, GPU, 스토리지, 네트워킹, 전원 및 냉각 솔루션 세트를 지원하는 유연하고 재사용 가능한 빌딩 블록으로 구축된 광범위한 시스템 제품군 중에서 선택하여 정확한 워크로드 및 애플리케이션에 맞게 최적화할 수 있습니다(에어컨, 자유 공기 냉각 또는 액체 냉각).
Supermicro, Server Building Block Solutions 및 We Keep IT Green은 Super Micro Computer, Inc.의 상표 및/또는 등록 상표입니다.
AMD, AMD Arrow 로고, AMD Instinct, EPYC 및 이들의 조합은 Advanced Micro Devices의 상표입니다.
기타 모든 브랜드, 이름 및 상표는 해당 소유자의 자산입니다.
사진 - https://mma.prnasia.com/media2/2294523/SuperMicro_Servers_with_AMD_MI300_Series_Accelerators.jpg?p=medium600
로고 - https://mma.prnasia.com/media2/1443241/Supermicro_Logo.jpg?p=medium600