HPE는 IT 서비스 전문기업 동국시스템즈, 인공지능(AI) 및 빅데이터 솔루션 전문 기업 바이브컴퍼니와 협력해 국내 시장에 최적화된 맞춤형 온프레미스 AI 솔루션을 필요로 하는 기업들을 위해 한국어 대규모언어모델(LLM)을 개발한다고 22일 밝혔다.

최근 기업 고객들이 방대한 고객 데이터를 활용하면서 AI 추론 솔루션 시장이 빠르게 성장하고 있다. 특히 3사는 한국어의 고유한 특성을 고려해 국내 기업 고객들을 위해 혁신적이고 통합된 한국어 LLM 개발에 집중하고 있다.

기업들이 LLM을 활용한 애플리케이션을 배포할 수 있도록 이번 협력은 AI 워크로드를 지원할 수 있는 HPE 크레이 XD670(HPE Cray XD670)과 HPE 프로라이언트 DL380a Gen11 서버(HPE ProLiant DL380a Gen11 server)를 기반으로 한다. HPE 크레이 XD670은 대규모 AI 모델의 학습과 조정에 맞게 설계되고 최적화돼 있으며, HPE 프로라이언트 DL380a Gen11 서버는 고집적도 메모리와 빠른 데이터 전송 속도로 까다로운 애플리케이션 실행을 위한 AI 추론 작업을 지원할 예정이다.

바이브컴퍼니는 생성형 AI 기반 모델인 '바이브젬(VAIV GeM)', 검색증강생성(RAG) 기술을 바탕으로 한 자동 Q&A 시스템인 '바이브 서치GPT(VAIV SearchGPT)', 일상 대화 및 시나리오화된 대화가 가능한 ‘바이브 스마트챗(VAIV SmartChat)’ 등을 이용해 각 기업들의 필요에 따라 설계할 수 있는 LLM 솔루션을 개발한다. 동국시스템즈는 고객사 장비 설치와 서비스 및 지원을 제공할 예정이다.

3사 협력을 통해 개발되는 이번 LLM 솔루션은 기업 고객이 쉽게 IT 환경과 비즈니스 목적에 맞는 프라이빗 LLM을 구축할 수 있도록 돕는다. 특히 한국어 모델을 개발함으로써 국내 기업들의 분야별 요구에 맞게 더욱 최적화된 AI 솔루션을 구축할 수 있다.