인공지능(AI) 반도체의 발전을 가로막는 요소 중 하나는 메모리다. AI 반도체가 빠르게 연산을 하려면 데이터도 그만큼 빠른 속도로 주고받아야 하는데 현재의 병렬 인터페이스 구조로는 한계가 있다. 마이크로칩이 이를 해결할 수 있는 솔루션으로 메모리 및 서버 업계를 공략한다.

마이크로칩테크놀로지(북아시아 총괄 및 한국대표 한병돈)는 데이터 센터 제품군을 확장하고 업계 처음으로 직렬 메모리 컨트롤러(SMC) 'SMC1000 8x25G'를 출시했다고 8일 밝혔다. 

이 컨트롤러를 활용하면 DDR4 D램 기준 메모리 채널을 4배 더 많이 사용할 수 있다. 

현재 DDR 컨트롤러와 서버용 D램 듀얼인라인메모리모듈(DIMM)은 최대 288개의 핀으로 신호를 주고받는다.

병렬식이라 핀 갯수가 많을수록 신호 처리 속도가 빠르지만 폼팩터(Formfactor)에 한계가 있어 핀 수를 늘리기 어려웠다. 같은 공간에 일차선 도로를 8개 만드는 것(병렬)보다 10차선 도로를 1개 만들었을 때(직렬) 더 많은 차가 오갈 수 있는 것처럼 한 번에 주고받을 수 있는 데이터의 양(대역폭)도 적었다.

'SMC1000 8x25G'는 8레인(lane) 오픈메모리인터페이스(OMI)를 준수하는 25.6Gbps 레인으로 CPU에 연결되고, 72비트 DDR4 3200 인터페이스로 메모리에 연결된다. 이를 통해 DIMM의 채널 당 핀 숫자를 72개까지 줄이면서도 채널을 4배 늘려 대역폭을 넓힐 수 있다.

예를 들어 기존 DDR4 3200 인터페이스는 288개의 핀으로 초당 25GB 데이터를 보낼 수 있지만, 이 제품은 75개의 핀만으로 같은 속도를 낸다. 여기에 기존 채널을 4개 혹은 8개로 쪼개 활용할 수 있어 채널 당 25GB/s, 총 100GB/s의 대역폭을 확보할 수 있다.

지연시간은 기존 LDIMM(Load Reduced DIMM) 모듈에 들어있는 DDR 컨트롤러보다 읽기 기준 4㎱밖에 차이나지 않는다. 

전력 소모량은 평균 1.7W 미만으로 25GB/s 속도를 내지 않아도 될 때는 자동으로 2개 혹은 4개의 레인을 멈추게 해 전력 효율을 높였다. 패키지 크기는 17×17㎜다.

서한석 마이크로칩 이사는 "지연시간을 감수하더라도 대역폭을 늘려야한다는 요구가 많다"며 "서버·메모리 업체가 주 고객사"라고 설명했다.

삼성전자·마이크론·스마트모듈러는 JEDEC DDR5 표준 DDIMM(Differential Dual-Inline Memory Module) 폼팩터를 준수하는 84핀 DDIMM(16GB~256GB)에 이 제품을 활용할 계획이다. 프로세서 업체 중 이를 가장 먼저 지원하는 건 IBM으로, '파워9(POWER9) 프로세서'에 적용한다.

OMI 표준은 오픈CAPI(OpenCAPI) 컨소시움이 만든 표준 중 하나다. 오픈CAPI는 PCI익스프레스(PCIe)의 경쟁 표준으로, 지연시간이 짧고 캐시 일관성 프로토콜을 제공한다. 최근 OMI 표준을 준수하는 호스트 및 메모리 관련 개방형 설계자산(IP)과 설계 검증을 위한 도구가 잇따라 출시되고 있어 생태계가 빠르게 커지고 있다.

스티브 필드(Steve Fields) IBM 파워 시스템(IBM Power Systems)의 최고 설계자는 “고객의 워크로드 요건이 점점 더 메모리 집약적으로 변모하고 있으며, 그로 인해 자사는 메모리 대역폭 증대를 위해 파워(POWER) 프로세서 메모리 인터페이스로 OMI 표준 인터페이스를 사용하는 전략적 결단을 내리게 됐다”고 말했다.

롭 스프린클(Rob Sprinkle) 구글 플랫폼 인프라 기술 책임자는 “우리의 고객들은 고성능 메모리를 필요로 하는 머신러닝 및 데이터 분석 등 데이터 집약적 애플리케이션을 통해 혜택을 얻고 있다”며, “구글은 이처럼 중요한 대역폭 및 지연 성능 목표를 충족할 수 있도록 고성능 메모리 인터페이스를 제공하는 OMI 등의 공개 표준(open standards) 기반 계획을 강력히 지원한다”고 전했다.