'온디바이스 AI', '하드웨어+소프트웨어', '도메인 특화 프로세서' 등

▲세미콘코리아 2019 오프닝 세레모니./KIPOST
▲세미콘코리아 2019 오프닝 세레모니./KIPOST

최근 2년간 반도체 산업 성장을 이끌어온 메모리 시장에 먹구름이 꼈다. 위기의 돌파구는 단 하나, 기술 초격차를 유지하는 것이다. 업황이 부진해도 업계가 연구개발(R&D)에 매진하는 이유다.

잠시 성장세가 주춤하는 올해, 업계는 인공지능(AI) 기술 개발에 방점을 찍었다.

23일 ‘세미콘코리아(SEMICON KOREA) 2019’ 기조연설로 연단에 오른 3명의 연사들은 모두 주제로 AI를 택했다.
 

인터넷 없어도 AI는 항상 내곁에

 

▲심은수 삼성전자 종합기술원(SAIT) AI&SW리서치센터장이 '세미콘코리아 2019'에서 기조연설을 하고 있다./KIPOST
▲심은수 삼성전자 종합기술원(SAIT) AI&SW리서치센터장이 '세미콘코리아 2019'에서 기조연설을 하고 있다./KIPOST

첫 강연자로 나선 심은수 삼성전자 종합기술원(SAIT) AI&SW리서치센터장의 발표 주제는 ‘온디바이스(On-device) AI’였다.

현재 대부분의 AI 기능은 기기와 서버(클라우드)를 연결하고, 기기에서 AI 기능을 수행하면 서버에서 작업을 처리하는 방식으로 구현된다.

인터넷 연결 없이는 AI 기능을 실행할 수 없고, 데이터가 오가야해 지연시간도 길어질 수밖에 없다. 데이터 전송 도중 개인 정보가 새나가거나 하는 등 보안 문제도 있다.

‘온비다이스 AI’는 기기 자체에 AI 기능을 넣어 이같은 한계를 극복할 수 있도록 하는 기술이다. 기존 클라우드 기반 AI로 물체를 인식하려면 500~1000㎳의 시간이 필요한데, ‘온디바이스 AI’를 적용하면 100~200㎳로 이를 단축할 수 있다. 참고로 사람은 150㎳ 정도가 걸린다.

‘온디바이스 AI’를 구현하려면 AI 알고리즘을 소형 모바일 기기에 적용해도 될 정도로 효율화시켜야하고, 이를 구현할 수 있도록 애플리케이션프로세서(AP) 외 별도 신경망처리장치(NPU)의 성능도 높여야 한다. 전력 소모량을 줄이는 것도 필수다.

삼성전자는 이미 ‘갤럭시S9’에 얼굴 인식 기술을 내장시켰다. 현재는 AI 서비스 ‘빅스비’를 탑재하는 방안을 연구하고 있다. ‘빅스비’ 클라우드 버전의 용량이 1GB인데 이를 187MB 수준으로 줄이는 데는 성공했다.

심 센터장은 “현재는 실시간으로 기능을 구현하기 위해 메모리 대역폭을 넓히는 연구를 하고 있다”며 “온디바이스 AI 기술을 스마트폰 외 자동차에도 적용해 AI 기능이 기본 내장된 자율주행차를 개발하고 있다”고 말했다.

 

‘도메인 특화 프로세서’, 시작은 AI다

 

▲월든 라인스 멘토 지멘스 비즈니스 명예 회장이 '세미콘코리아 2019'에서 기조연설을 하고 있다./KIPOST
▲월든 라인스 멘토 지멘스 비즈니스 명예 회장이 '세미콘코리아 2019'에서 기조연설을 하고 있다./KIPOST

이어서 연단에 오른 월든 라인스(Walden C. Rhines) 멘토, 지멘스 비즈니스 명예회장이 설명한 ‘도메인 특화 프로세서(Domain Specific Processors)’의 대표적인 예도 AI 전용 반도체다.

월든 라인스 회장은 지난해 한국에서 열린 ‘멘토 포럼(Mentor Forum) 2018’에서 ‘도메인 특화 프로세서’의 개념과 콤페르츠 모델을 발표했었다. 그는 이번 세미콘코리아 기조연설에서도 두 개념을 제시했다.

‘도메인 특화 프로세서’는 특정 기능에 맞춘 설계구조(Architecture)로 성능과 전력소모량 등을 최적화한 프로세서를 뜻한다. 기존 프로세서의 병목 현상을 극복할 수 있다.

콤페르츠 모델은 초기 완만한 성장 곡선을 보이다가 가파르게 성장, 변곡점을 지난 후 성장률이 줄어들면서 성숙기에 접어드는 성장 모델이다.

월든 회장은 “콤페르츠 모델을 적용하면 2030년 이후 트랜지스터 양은 폭발적으로 증가한다”며 “현재 트랜지스터의 99%가 메모리인데, AI 등에 적용되는 도메인 특화 프로세서가 늘어나 메모리가 차지하는 비중을 밀어낼 수 있다”고 말했다.

 

AI, 소프트웨어(SW)와 하드웨어(HW)의 경계를 무너뜨려라

 

▲나명희 IBM 석학 엔지니어가 '세미콘코리아 2019'에서 기조연설을 하고 있다./KIPOST
▲나명희 IBM 석학 엔지니어가 '세미콘코리아 2019'에서 기조연설을 하고 있다./KIPOST

‘AI 하드웨어의 시대(The Era of AI Hardware)’를 주제로 발표한 나명희 IBM리서치 석학 엔지니어(Distinguished Engineers)는 현재 AI 시대가 단순한 작업만 하는 내로우(Narrow) AI 시대에서 브로드(Broad) AI 시대로 넘어갔다고 진단했다.

브로드 AI 기술은 여러 개의 데이터를 활용, 알고리즘이 능동적으로 작업을 처리하는 것을 뜻한다. 수일 열리는 골프 토너먼트의 하이라이트 장면을 사람이 편집하려면 며칠이 걸린다. 선수의 움직임, 해설자와 관람객의 목소리 톤 등을 분석하는 AI로는 하루 이틀이면 된다.

다음 단계는 제너럴(General) AI 시대다. 문제는 브로드 AI조차 제대로 구현할 수 있는 하드웨어가 없다는 점이다.

나 엔지니어가 제시한 해결책은 소프트웨어와 하드웨어 역량의 결합이다. 하드웨어 성능을 높이기 위해 중앙처리장치(CPU), 메모리, AI 가속기, 네트워크 등이 결합된 이기종 시스템을 도입할 수는 있다. 하지만 AI 가속기로 쓰이는 GPU도 기존 CMOS 공정에서는 매년 2.5배 이상 성능을 높이기 어렵고 전력소모량도 급격히 늘어난다.

나 엔지니어는 “AI가 발전할수록 소프트웨어와 하드웨어의 경계가 무너질 것”이라며 “둘을 융복합해 하드웨어 기술 발전의 장벽을 뛰어넘어야 한다”고 설명했다.

‘근사 컴퓨팅(Approximate)’의 개념도 소개했다. AI 알고리즘은 인간과 닮았다. 인간은 100% 완벽하지 않다. 흠집이 난 모나리자 그림도, 인간들은 모나리자로 인식한다.

고정확도의 AI 알고리즘을 만들기 위해 차세대 하드웨어가 나오길 기다리는 게 아니라, 여러 번 학습시켜 한 번에 연산하는 비트 수를 줄여도 필요한 만큼 정확하기만 하면 된다는 얘기다.

IBM이 주도하고 있는 양자 컴퓨팅도 AI 진화를 위해 필수적이라고 나 엔지니어는 설명했다. 양자 컴퓨팅은 한 번에 많은 양의 데이터(비트 단위)를 처리할 수 있다. 양자의 상태를 측정하고 0, 1을 원하는 위치에 두는 식이다.

그는 “곧 양자 컴퓨팅을 이용한 딥러닝도 상용화될 것”이라고 덧붙였다.

저작권자 © KIPOST(키포스트) 무단전재 및 재배포 금지