반도체 설계 솔루션 회사 세미파이브는 하이퍼엑셀과 협력하여 생성형 인공지능(AI) 반도체를 개발한다고 밝혔다. 이번 협력을 통해 삼성 파운드리의 4나노 공정 기술을 적용하여 제품을 개발하겠다는 계획이다.

하이퍼엑셀은 2023년 1월에 설립된 국내 스타트업으로, 트랜스포머 기반 거대 언어 모델(LLM)에 특화된 AI 반도체인 레이턴시 프로세싱 유닛(LPU, Latency Processing Unit)를 개발하는 회사다. 하이퍼엑셀은 LLM을 여러 개의 LPU에 효율적으로 분산하는 모델 병렬화 기술과 LPU 간 데이터 동기화를 위한 자체 네트워킹 기술도 개발했다. 최근에는 자체 LPU를 탑재한 오리온(Orion) 서버를 출시했다. 오리온 서버는 프로그래머블반도체(FPGA) 기술을 사용하는 LLM 기반의 새로운 생성형 AI 워크로드 전용 서버이다.

세미파이브는 SoC 플랫폼 및 ASIC 설계 솔루션 전문 회사로, AI 반도체에 특화된 SoC 설계 플랫폼을 개발한다. 현재까지 3개의 SoC 설계 플랫폼을 개발했으며, 해당 플랫폼을 활용해 8개의 커스텀 반도체 테이프아웃(Tapeout)을 완료했다. 세미파이브는 AI 커스텀 반도체에 대한 고객 수요에 대응하기 위해 로드맵을 확장할 계획이다. 최근에는 세미파이브가 14나노 AI SoC 플랫폼으로 설계한 서버용 AI 추론 커스텀 칩을 양산하기 시작했다고 발표했다. 또한, 세미파이브의 5나노 HPC SoC 플랫폼을 사용한 HPC 애플리케이션용 NPU 칩 양산은 2024년 상반기에 예정되어 있다.

김주영 하이퍼엑셀 대표는 "SoC 플랫폼과 포괄적인 ASIC 설계 솔루션을 제공하는 세미파이브와 설계 협력을 하게 되어 기쁘다"고 소감을 전했다. 이어 "세미파이브와의 협력을 통해 GPU 플랫폼 대비 더 낮은 비용과 더 높은 전력 효율을 제공하는 반도체를 개발할 수 있게 되어 기대가 크다. 이를 통해 데이터센터 운영 비용을 크게 절감하고 LLM을 필요로 하는 다른 산업 분야로 사업 영역을 확장할 수 있을 것"이라고 말했다.

조명현 세미파이브 대표는 "하이퍼엑셀은 생성형 AI 분야에서 커스텀 AI 반도체와 시스템을 성공적으로 구축하기 위해 필요한 지식과 전문성을 보유한 회사"라고 말했다. 이어 "하이퍼엑셀의 뛰어난 엔지니어링 팀과 협력하여 그들의 혁신적인 아이디어를 세미파이브의 SoC 플랫폼을 기반으로 실현할 수 있도록 최선을 다하겠다"고 덧붙였다.