엔비디아-아마존웹서비스(AWS), 엣지 디바이스에 AI 구현 지원

수백만개의 사물인터넷(IoT) 기기에도 인공지능(AI)이 들어간다.

 

▲사물인터넷(IoT) 기능이 적용된 산업용 자동화 설비가 인공지능(AI)을 갖게 된다./엔비디아 홈페이지
▲사물인터넷(IoT) 기능이 적용된 산업용 자동화 설비가 인공지능(AI)을 갖게 된다./엔비디아 홈페이지

엔비디아와 아마존웹서비스(AWS)는 '엔비디아 젯슨(NVIDIA Jetson)'을 통해 수백만 커넥티드 기기에서 AI와 심층학습(DL)을 구현할 수 있게 지원한다고 19일 밝혔다.

양사의 공동 솔루션으로 AWS 서비스 상에서 더욱 쉽게 모델을 생성, 트레이닝 및 최적화할 수 있다. 'AWS IoT 그린그래스(AWS IoT Greengrass)'를 사용해 모델을 젯슨 기반 엣지 디바이스(edge device)에 배포할 수 있다.

엔비디아 젯슨 플랫폼은 최첨단 AI를 고성능 및 전력 효율적인 컴퓨팅으로 제공한다. 유통, 제조, 농업 등 다양한 산업에 걸쳐 자동화 설비 및 스마트 카메라 등에 적용된다.

'AWS IoT 그린그래스'는 AWS 서비스를 머신 러닝 추론을 포함해 엣지 디바이스까지 확장해 데이터를 클라우드에 저장하는 동시에 로컬에서 실행할 수 있다.

두 기술을 결합하면 클라우드에서 AI 기능을 처리하지 않고 엣지 디바이스에서 실시간으로 AI의 추론 기능이 구현된다. 이후 데이터를 아마존 세이지메이커(Amazon SageMaker)와 같은 머신 러닝 서비스로 보내 모델 정확도를 향상시킨다.

고정밀 농업을 예로 들면 AWS IoT 그린그래스에서 실행되는 젯슨 기반 카메라는 거의 실시간으로 잡초를 겨냥하고 이전에 식별되지 않은 잡초를 포착, 클라우드에 변칙행위 내용을 업로드해 신속히 모델을 리트레이닝하고 배포한다.

자동화 광학 검사의 경우, 제조 현장에서 제품 결함을 신속히 확인해 제조 조립 라인 상의 지연을 방지할 수 있다. 이를 통해 생산성이 증가하고 손실이 최소화돼 전반적인 운영 효율이 향상된다.

젯슨은 엔비디아 젯팩(NVIDIA JetPack)을 비롯한 포괄적 소프트웨어 도구 및 소프트웨어개발키트(SDK) 세트와 함께 제공된다. MXNet, 카페(Caffe), 텐서플로우(TensorFlow), 파이토치(PyTorch) 등 다양한 프레임워크를 지원, 개발자들이 빠르게 기기를 개발, 배포할 수 있게 했다.

AWS는 엔비디아 'GPU 기술 컨퍼런스(GTC)'에서 젯슨 디바이스로 실행되는 다양한 IoT, 머신 러닝, 로봇 데모 시연을 선보일 예정이다. 

디푸 탈라(Deepu Talla) 엔비디아 오토노머스 머신 담당 총괄 겸 부사장은 “젯슨은 세계에서 가장 빠른 슈퍼컴퓨터를 구동하는데 사용되는 것과 동일한 아키텍처와 통합 소프트웨어를 기반으로 한다”며 “소형 사물인터넷(IoT) 디바이스부터 게이트웨이까지 AI를 확장할 수 있다”고 말했다.

저작권자 © KIPOST(키포스트) 무단전재 및 재배포 금지