폭스콘·GE헬스케어가 사용하는 인공지능(AI) 엣지 서버 플랫폼은?
폭스콘·GE헬스케어가 사용하는 인공지능(AI) 엣지 서버 플랫폼은?
  • 김주연 기자
  • 승인 2019.05.28 19:00
  • 댓글 0
이 기사를 공유합니다

엔비디아, 레드햇·멜라녹스·시스코와 협력해 '엔비디아 EGX' 플랫폼 출시
엔비디아 EGX 플랫폼./엔비디아
엔비디아 EGX 플랫폼./엔비디아

엔비디아는 엣지(edge) 시스템에서 낮은 지연시간으로 실시간 인공지능(AI) 수행이 가능한 가속 컴퓨팅 플랫폼 ‘엔비디아 EGX(NVIDIA EGX)’를 발표했다. 

'엔비디아 EGX'는 엣지 단말용 서버로, 클라우드로 전송해야하는 데이터의 양을 줄이는 동시에 데이터를 만들어내는 엣지 단말에서 즉각적이며 높은 처리량(throughput)의 AI를 수행하려는 수요를 충족시키기 위해 개발됐다.

특히 기업들이 5세대(5G) 이동통신 기지국, 웨어하우스, 리테일, 공장 등에서 발생하는 연속 스트리밍 데이터를 실시간으로 감지, 이해 및 대응할 수 있도록 돕는다. 

'엔비디아 EGX'는 소형 AI 컴퓨터 '엔비디아 젯슨 나노(NVIDIA Jetson Nano)'로 시작할 수 있다. '엔비디아 젯슨 나노'는 이미지 인식과 같은 작업을 처리하기 위해 불과 몇 와트(W)만으로 1초당 5000억 회의 연산이 가능하다. 

'엔비디아 젯슨 나노'를 통해 1차적으로 처리된 정보는 실시간 음성 인식 및 기타 실시간 AI 작업을 위해 최대 1만 초당테라연산(TOPS)의 성능을 제공하는 엔비디아 T4 서버의 전체 랙으로 연결된다.

 

엔비디아 엣지 스택./엔비디아
엔비디아 엣지 스택./엔비디아

이후부터는 '엔비디아 엣지 스택(NVIDIA Edge Stack)'에 따라 데이터가 처리된다. 

'엔비디아 엣지 스택'은 컨테이너형 AI 프레임워크 및 애플리케이션을 포함한 소프트웨어에 최적화됐다. 엔비디아는 레드햇(Red Hat)과 협력, '엔비디아 엣지 스택'을 엔터프라이즈급 쿠버네티스(Kubernetes) 컨테이너 오케스트레이션(orchestration) 플랫폼인 오픈시프트(Openshift)와 통합 및 최적화했다.

여기에 멜라녹스(Mellanox) 및 시스코(Cisco)의 보안, 네트워킹 및 스토리지 기술도 결합됐다. 이를 통해 통신, 제조, 소매, 헬스케어, 운송 등을 포함한 주요 산업분야 기업들은 최첨단의 엔터프라이즈급 AI 인프라를 신속하고 안전하게 구축할 수 있다.

엔비디아 AI 컴퓨팅은 주요 클라우드 서비스에 의해 제공되며, 구조적으로 엔비디아 EGX와 호환된다. 클라우드에서 개발된 AI 애플리케이션은 엔비디아 EGX에서 실행될 수 있으며, 그 반대도 가능하다. 엔비디아 엣지 스택은 주요 클라우드 IoT 서비스에 연결되며, 고객은 AWS IoT 그린그래스(AWS IoT Greengrass) 및 마이크로소프트 애저 IoT 엣지(Microsoft Azure IoT Edge)에서 원격으로 서비스를 관리할 수 있다.

폭스콘, GE헬스케어, BMW 그룹 로지스틱스(BMW Group Logistics) 등 업계를 선도하는 40개 이상의 기업 및 기관들이 엔비디아 EGX 서버를 사용하고 있다.

밥 피트(Bob Pette) 엔비디아 엔터프라이즈 및 엣지 컴퓨팅 부문 부사장 겸 총괄은 “기업들은 방대한 양의 로우 데이터(raw data)를 처리하기 위해 엣지에서 보다 강력한 컴퓨팅을 필요로 하고 있다"며 "엔비디아 EGX와 같은 확장 가능한 플랫폼은 온프레미스 및 클라우드 환경 모두에서 시스템을 쉽게 구축함으로써 기업의 요구사항을 충족시킬 수 있다“고 말했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.