이미 2016년부터 AP에 NPU 내장
경량화된 LLM 정확도 높아지며 온디바이스AI 구현

근래 IT 업계 화두는 단연 ‘온디바이스AI’다. 대규모 클라우드 서버와의 통신을 통해 제공되던 AI(인공지능) 서비스를 스마트폰⋅노트북PC 등 엣지 자원으로만 구현하는 게 온디바이스AI다.

진정한 온디바이스AI 구현을 위해서는 기존 NPU(신경망처리장치) 수준을 뛰어 넘는 하드웨어 뿐만 아니라 적은 수의 파라미터(매개변수)로 구동되는 LLM(거대언어모델) 출현도 뒤따라야 한다. 
KIPOST 회원 정책 안내

KIPOST Gold Member 또는 VIP Member가 되시면
전문보기 및 다양한 지식 서비스를 이용하실 수 있습니다.

회원등급안내
Newsletter KIPOST가 발송하는 주간 Newsletter 구독
Gold KIPSOT 프리미엄, 아시아 등 모든 유료 콘텐츠 전문 열람
VIP KIPOST의 차별화 된 정보 서비스 제공
저작권자 © KIPOST(키포스트) 무단전재 및 재배포 금지