인텔은 델(Dell)이 델 AI 팩토리(Dell AI Factory) 최신 포트폴리오에 인텔® 가우디® 3(Intel® Gaudi® 3) AI 가속기를 탑재한 인텔 기반 델 AI 플랫폼(Dell AI platform with Intel)을 공개했다고 21일 밝혔다.

이번 플랫폼은 기업이 AI 기술을 손쉽게 도입·통합·확장할 수 있도록 설계됐으며, 인텔 가우디 3 하드웨어와 오픈 소스 소프트웨어의 스택 및 델의 인프라 전문성을 결합해 다양한 산업 전반에서 AI 전환을 가속화할 수 있는 원활한 경로를 제공한다.

인텔 기반 델 AI 플랫폼에 탑재된 인텔 가우디 3는 생성형 AI 워크로드에서 경쟁력 있는 가격 대비 우수한 성능이 강점으로, 실제로 엔비디아 H100 보다 Llama 3 80B 모델 추론 처리량에서 70%1 가량 우수한 가격대 성능비를 보여준다. 인텔 기반 델 AI 플랫폼의 확장형 아키텍처는 비즈니스의 성장과 함께 유연하게 확장 가능하며, 개방형 네트워킹 및 소프트웨어 스택을 제공해 특정 벤더 종속을 방지한다.

인텔 기반 델 AI 플랫폼의 중심에는 AI 워크로드에 최적화된 고성능 서버인 파워엣지 XE9680(PowerEdge XE9680)가 있으며, 주요 특징은 ▲8개의 인텔 가우디 3 가속기 ▲5세대 인텔® 제온® (5th Gen Intel® Xeon®) 프로세서 ▲확장 가능한 스토리지 및 네트워킹 ▲에너지 효율적인 공랭식 시스템 등을 탑재했다는 점이다. 

이 플랫폼은 또 ▲손쉬운 모델 미세 조정을 위한 파이토치(PyTorch) 및 허깅 페이스(Hugging Face)와 같은 프레임워크 ▲유연한 리소스 스케줄링 및 오케스트레이션 제공을 위한 쿠버네티스(Kubernetes) ▲실시간 옵저버빌리티 및 모니터링을 위한 그라파나(Grafana) 및 프로메테우스(Prometheus) 등을 지원한다.