파네시아, 온디바이스 AI를 위한 엣지 AI서버 개발과제 수주

AI 인프라 솔루션 개발 기업 파네시아(대표 정명수)는 과학기술정보통신부/정보통신기획평가원(IITP) 주관 온디바이스 AI 관련 국책과제를 성공적으로 수주했다고 13일 밝혔다. 파네시아는 과제 수행기간 동안 차세대 링크솔루션을 온디바이스 AI 관련 인프라에 적용해 사용자 수요에 맞게 구성을 유연하게 조정 가능한 고성능∙고신뢰성 엣지AI 서버를 개발할 예정이다.

최근 스마트 팩토리, 물류∙운송, 소매 서비스 등 산업계 전반에서 온디바이스 AI 기술 수요가 급증하고 있다. 온디바이스 AI는 클라우드를 거치지 않고 장치나 근처 엣지AI 서버에서 직접 데이터 요청을 처리하기 때문에 데이터 전송과정으로 인해 발생하는 보안 문제, 전송 지연을 최소화할 수 있다는 점에서 주목받고 있다.

통상 온디바이스 AI와 이를 관리하기 위한 엣지 컴퓨팅 기술은 비교적 적은 연산 자원으로도 수행이 가능한 기계학습 모델의 추론과정을 가속하는 데에 초점을 두고 개발이 이루어져왔으나, 최근에는 보안 강화 및 맞춤형 AI 서비스를 위해 일부 학습과정 또한 온디바이스 AI 형태로 처리하려는 수요가 증가하고 있다. 추론과 학습 연산의 특성은 서로 달라 상호 최적화된 형태로 가속할 수 있는 구조의 개발이 필요한 상황이다.

파네시아는 차세대 링크솔루션을 적용해 추론, 학습, 추론/학습 동시 수행 등 사용자의 수요에 맞춰 자원 구성을 유연하게 조정 가능한 온디바이스 AI용 엣지 서버 솔루션을 본 과제 수행기간 동안 개발할 예정이다. 

본 과제를 통해 개발하는 온디바이스 AI용 엣지 서버의 핵심은 파네시아의 주력 기술인 ‘링크솔루션’이다. 엣지 AI 서버 프레임워크는 차세대 연결기술인 컴퓨트익스프레스링크(Compute Express Link, CXL)을 지원하는 스위치(이하 CXL 스위치)가 장착된 형태로 설계된다. CXL 스위치가 다양한 시스템 장치들을 하나로 연결해주는 덕분에 파네시아의 온디바이스 AI용 엣지 서버에는 그래픽처리장치(GPU), 신경망처리장치(NPU), 고성능 CPU, 메모리 등 다양한 장치를 모듈식(선택적)으로 장착할 수 있다. 이를 통해 사용자들은 서로 다른 환경에서 요구되는 서로 다른 시스템 요구사항을 만족하는 형태로 시스템을 구축할 수 있다.

 예를 들어 대규모 데이터를 필요로 하는 모델 기반 추론일 경우 메모리 자원을 높은 비율로 장착하고, 추론 대상이 빈번하게 변경되어 주기적인 재학습이 필요한 환경일 경우 학습에 최적화된 자원과 추론에 최적화된 자원의 비율을 높이는 형태로 구성하는 등 수요에 알맞게 시스템을 구축하여 자원 활용률 및 성능을 최적화할 수 있다. 또 새로운 가속기 등 신제품이 개발되었을 때, 서버 전체를 교체하는 것이 아니라 해당 모듈만 부분적으로 교체할 수 있어 운영 비용 또한 최적화할 수 있다.

이 외에도 연구진은 더욱 높은 수준의 신뢰성을 보장하기 위한 ‘온디바이스 AI 암호화 기능 강화용 하드웨어 모듈’, 그리고 ‘엣지 컴퓨팅 전력 최적화 기술’ 또한 개발한다. 최종적으로는 이러한 기술이 집적된 엣지 하드웨어 프레임워크 상에서 AI 응용 등을 구동하기 위해 필요한 시스템 패키지를 개발하고, 엣지 AI 서버향 응용에 대해 실증까지 진행할 예정이다. 

이렇게 파네시아가 개발할 고성능∙고신뢰성 온디바이스 AI 기술은 스마트팩토리, 도시 교통/보안 시스템, 무인/자율주행 차량 등 다양한 분야에 활용될 수 있다.

한편 이번 과제는 파네시아를 중심으로 KAIST, UNIST, 연세대학교, 한양대학교 등 주요 대학이 컨소시엄을 구성해 협업하는 형태로 수행된다.