엣지(Edge) 컴퓨팅으로 세계 최고 권위의 AI(인공지능) 벤치마크 대회 `ML Perf`에서 공인받은 스타트업이 있다. 엣지 AI 반도체 설계⋅공급사 모빌린트(Mobilint)다. ML Perf 벤치마크는 구글이 주관하고 엔비디아⋅인텔 등 세계적인 기업이 참여하는 NPU(신경망처리장치) 검증 테스트다. 특정 딥러닝 알고리즘을 제시하고, 이를 얼마나 빠른 속도로 구동하는지 검증한다.

신동주 모빌린트 대표는 "ML Perf는 특정 알고리즘을 주고 무작위로 여러 번 반복해도 같은 결과가 나오는지, 99% 이상의 정확도를 가지는지 등 까다로운 참가조건을 제시한다"며 "참가 조건을 만족하는 것이 어려워 스타트업들은 참가한 기업이 거의 없다"고 말했다. 국내에서 ML Perf 성능 검증 테스트를 완료한 국내 기업은 삼성전자와 스타트업인 모빌린트⋅퓨리오사AI 정도에 불과하다.

▲미래 자율주행차 모습./삼성전자뉴스룸
미래 자율주행차 모습(기사의 특정내용과는 관련없음)./사진=삼성전자뉴스룸

모빌린트가 개발한 NPU는 `Resnet` 모델과 `ImageNet` 데이터셋을 사용한 이미지 분류에서는 1초당 107개의 샘플을 처리했다. 특정 영역을 찾고 분류까지 하는 사물탐지(Object detection) 부문에서는 `Mobilenet` 모델과 `coco` 데이터셋을 이용해 초당 410개의 샘플을 처리했다. 테스트는 자일링스 FPGA(프로그래머블반도체)로 제작된 칩으로 이뤄졌다.

모빌린트는 범용성 확보에도 주력했다. 엣지 기기를 구동하는 다양한 하드웨어를 어떻게 만족할 것인가는 엣지 컴퓨팅에서 어렵고도 중요한 과제다. 기기마다 하드웨어 사양이 다르면 일일이 최적화 과정을 거쳐야 한다. 연산 단위 차이가 크다면 거의 모델을 다시 만들어야 한다. 인텔과 엔비디아 등이 범용성이 높은 AI 칩 개발에 주력하는 이유다.

모빌린트의 Ml perf 벤치마크 관련 자료./자료=모빌린트
모빌린트의 Ml perf 벤치마크 관련 자료./자료=모빌린트

모빌린트는 하드웨어에 맞게 각각의 알고리즘을 최적화해 넣어주는 컴파일러(Compiler)를 지원한다. 신 대표는 "실시간 컴파일링을 지원해 이후 하드웨어 변경 없이 네트워크 업데이트에 대응할 수 있도록 했다"며 "사물 탐지⋅자율주행 등 각각의 다른 알고리즘을 하나의 칩으로 유연하게 대응할 수 있다"고 설명했다.

모빌린트의 타깃은 자율주행⋅스마트시티⋅스마트팩토리⋅보안솔루션 등에 필요한 고성능 엣지 NPU다. 모두 실시간 데이터 처리가 중요한 분야다. 클라우드를 통해 데이터 처리 시 물리적 거리로 인한 처리 속도 문제가 제기돼 왔다. 엣지 컴퓨팅은 대용량 데이터를 클라우드를 거치지 않고 디바이스에서 자체 처리한다. 특히 라이다(Lidar), 카메라, 센서 퓨전(sensor fusion) 등에 고성능 엣지 칩 탑재 시 높은 연산량을 효과적으로 달성할 수 있다. 클라우드를 거쳐 데이터 처리 시 발생하는 개인정보 침해 문제도 보완할 수 있다.

모빌린트는 3-4년 뒤에는 1W(와트)기준으로 10TOPS (Trillion operations per second·1초당 1조회), 10W 기준으로 100TOPS 이상의 인공지능 연산 성능을 목표로 한다. 이정승 모빌린트 이사는 "데이터 지연 시간에 매우 민감한 분야에 집중한다"며 "실시간성이 중요한 자율주행 등의 분야에서 강점을 가질 것으로 전망된다"고 말했다.

모빌린트의 TOPS 관련 목표 자료./자료=모빌린트
모빌린트의 TOPS 관련 목표 자료./자료=모빌린트

모빌린트가 자체 개발 설계한 NPU칩은 최근 한 자동차 회사와 실증 PoC(Proof-of-Concept)를 완료했다. 이를 통해 엔비디아의 GPU를 대체하는 데 문제없다는 결과를 받았다. 현재 추가적인 테스트를 진행 중이다. 모빌린트가 개발한 NPU칩은 이르면 2022년 상반기 상용화 예정이다.

모빌린트는 2019년 4월 설립된 엣지 AI 반도체 설계⋅공급사다. 신동주 대표는 카이스트 전기전자공학부에서 딥러닝⋅컴퓨터비전 ASIC(주문형반도체) 솔루션을 7년간 연구했다. 신 대표는 "아직 NPU칩이 주목받지 않던 8년 전부터 이 분야를 연구해 왔다는 것이 가장 큰 강점"이라며 "그 경험들이 모빌린트 창업과 딥러닝 솔루션 개발의 밑거름이 됐다"고 말했다. 신 대표는 연구 기간 동안 10개의 SoC(system on chip) 개발에 참여하였고, 세계 최초로 엣지 CNN(합성곱신경망)⋅RNN(순환신경망) 딥러닝 ASIC 솔루션을 개발했다.

신 대표는 "개발비가 많이 든다는 것이 스타트업으로 부담이 되기도 하지만 신기술 분야기 때문에 기술경쟁력만 있다면 맞붙어볼 수 있는 시장"이라며 "엣지 AI 분야 시장 규모가 크다. 대기업이라 해도 모든 시장을 타깃할수는 없으므로 기술경쟁력만 있다면 충분히 스타트업이 성장할 수 있는 분야"라고 말했다.

저작권자 © KIPOST(키포스트) 무단전재 및 재배포 금지