삼성전자가 AI(인공지능) 엔진을 탑재한 메모리 반도체 제품군을 확대한다. 

삼성전자는 24일 온라인으로 진행된 핫 칩스(Hot Chips) 학회에서 지난 2월 업계 최초로 개발한 HBM-PIM 등 PIM(Process In Memory) 기술을 적용한 다양한 제품군·응용사례를 소개했다. 

이날 학회에서는 D램 모듈에 AI 엔진을 탑재한 ▲AXDIMM(Acceleration DIMM), 모바일 D램과 PIM을 결합한 ▲LPDDR-PIM ▲HBM-PIM의 실제 시스템 적용 사례가 소개됐다. 
 
AXDIMM은 PIM 기술을 칩 단위에서 모듈 단위로 확장한 것이다. D램 모듈에 인공지능 엔진을 장착한 제품이다. D램 모듈 동작 단위인 각 랭크(Rank)에 AI 엔진을 탑재하고 병렬처리를 극대화해 성능을 높인다. AI 엔진을 통해 D램 모듈 내부에서 연산이 가능해져 CPU와 D램 모듈 간 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있다. 

또 D램 모듈에 탑재된 버퍼칩에 AI 엔진을 탑재하는 방식으로 기존 시스템 변경 없이도 적용이 가능하다. 현재 AXDIMM은 글로벌 고객사들의 서버 환경에서 성능 평가가 진행 중이다. 성능은 약 2배 가량 향상되고 시스템 에너지는 40% 이상 감소된 것으로 확인됐다. 

LPDDR5-PIM 기술은 모바일 분야까지 PIM 기술을 확대 적용한 것이다. PIM 기술이 모바일 D램과 결합할 경우 데이터센터와의 연결 없이 휴대전화 독자적으로 AI 기능을 수행할 수 있게 된다. 이를 통해 온디바이스 AI 성능과 에너지 문제를 효율적으로 처리할 수 있을 것으로 전망된다. 삼성전자는 시뮬레이션 결과, 음성인식·번역·챗봇 등에서 2배 이상 성능이 향상되고 에너지 소비는 60% 이상 감소했다고 밝혔다. 

지난 2월 삼성전자가 공개한 HBM-PIM을 실제 시스템에 탑재한 검증 결과도 공개됐다. FPGA(프로그래머블반도체) 개발 업체인 미국 자일링스에서 이미 상용화 중인 AI 가속기 시스템에 HBM-PIM을 탑재할 경우, 기존 HBM2를 이용한 시스템 대비 성능은 약 2.5배 향상되고 시스템 에너지는 60% 이상 감소하는 것으로 나타났다. 

김남승 삼성전자 메모리사업부 디램 개발실 상무는 "HBM-PIM은 업계 최초의 인공지능 분야 맞춤형 메모리 솔루션으로 이미 고객사들의 AI 가속기에 탑재되어 평가되고 있어 상업적 성공의 가능성을 보였다"며 "향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터 및 인공지능용 HBM3, On-Device AI용 모바일 메모리 및 데이터센터용 D램 모듈로 확장할 예정”이라고 말했다. 

아룬 바라다라잔 라자고팔 자일링스 상품기획 시니어 디렉터는 "인공지능 응용 분야에서 HBM-PIM의 성능과 에너지 효율 향상을 위한 시스템 평가를 위해 삼성전자와 지속 협력할 것"이라고 밝혔다.

삼성전자는 내년 상반기 내 다양한 고객사들의 AI 가속기를 위한 PIM 기술 플랫폼을 표준화하고 관련 생태계를 구축할 예정이다.