엔비디아는 자사의 새로운 그래픽처리장치(GPU) '엔비디아 T4 GPU'가 서버 GPU 중 가장 빠른 채택률을 보이고 있다고 14일 밝혔다.

지난 9월 출시된 엔비디아 T4 GPU는 이미 세계 유수의 컴퓨터 제조업체가 제공하는 57가지 서버에 적용됐다. 엔비디아는 T4 GPU를 클라우드 서버에도 사용 가능하게 하면서 구글 클라우드 플랫폼 고객을 위한 T4도 최초 공개했다.

T4는 고성능컴퓨팅(HPC), 딥 러닝 교육과 추론, 머신 러닝, 데이터 분석, 그래픽 등 다양한 클라우드 작업을 가속화한다. '튜링(Turing)' 설계구조에 기반한 이 제품은 다중 튜링 텐서(Tensor) 코어와 새로운 RT 코어를 내장했고 가속화된 컨테이너형 소프트웨어 스택과 결합될 경우 전례 없는 성능을 제공한다. 

T4는 퍼블릭 및 엔터프라이즈 클라우드 환경에서 요구되는 고유한 확장성을 충족시키도록 설계됐다. 처리량(throughput), 사용률, 사용자 동시성(concurrency)을 극대화해 고객들이 사용자·데이터 폭증에 효과적으로 대응하도록 지원한다.

70W(와트) 소형 폼팩터로 표준 서버나 오픈 컴퓨트 프로젝트(Open Compute Project) 하이퍼스케일 서버 설계에 적합하다. 서버 설계는 단일 노드에서 1개부터 20개의 GPU를 지원한다.

T4가 가진 다중정밀 기능은 4가지 수준에서 다양한 AI 워크로드를 위한 획기적인 AI 성능을 제공한다. FP32에서 8.1테라플롭(teraflop), FP16에서 65테라플롭, INT8에서 130TOPS(초당 테라 연산), INT4에서 260 TOPS의 성능을 구현한다.

AI 추론 워크로드의 경우 T4 GPU 2개를 탑재한 서버로 CPU 전용 서버 54개를 대체할 수 있다. AI 훈련을 위해서는 T4 GPU 2개를 탑재한 서버로 이중 소켓 CPU 전용 서버 9개를 대체할 수 있다.

소셜 미디어 및 온라인 쇼핑몰과 같은 소비자 인터넷 기업들은 T4를 조기에 채택해 사용 중이다. Dell EMC, HPE, IBM, 레노버(Lenovo), 슈퍼마이크로(Supermicro) 등도 T4를 채택했다.

이안 벅(Ian Buck) 엔비디아 엑셀레이티드 컴퓨팅 담당 부사장 겸 총괄은 “지금까지 데이터센터 프로세서가 이렇게 빠른 채택률을 보인 적이 없었다”며 “T4는 출시 60일 만에 클라우드에서도 사용할 수 있게 됐다”고 설명했다.