SK텔레콤이 전용(ASIC) 인공지능(AI) 가속기를 개발한다.

이전까지는 프로그래머블반도체(FPGA) 기반 가속기를 만들었지만 최근 ASIC 개발을 시작했다. 

FPGA에서 ASIC으로 넘어가는 게 반도체 칩 연구개발(R&D) 수순이긴 하지만, 이를 도입할 자체 서버도 많지 않은 상황에서 ASIC을 만드는 건 투자대비수익률(ROI)이 낮다. SK텔레콤이 굳이 ASIC을 만드는 이유는 뭘까.

FPGA에서 ASIC으로

SK텔레콤은 최근 자사 AI 가속기 ‘AIX’의 핵심 ASIC 칩을 개발하기 시작했다고 밝혔다.

이 회사는 이전까지 자일링스의 FPGA를 기반으로 AIX를 개발했다. 지난 2018년 발표한 1세대 AIX와 지난해 내놓은 2세대 AIX까지 모두 FPGA가 들어갔다. 

FPGA는 가격이 비싸지만 양산 후에도 프로그래밍으로 기능과 성능을 조정할 수 있다. 자일링스 같은 제조사가 각 기능을 하는 블록(Block)을 만들어 제공하면, 고객사는 레고를 쌓듯 원하는 기능을 내고자 하는 성능만큼 넣는 식이기 때문에 개발 기간도 ASIC보다 짧다. (참고 KIPOST 2019년 11월 3일자 <SK텔레콤의 AI 서비스가 他 통신사들과 다른 이유>)

AI는 어떤 목적의 알고리즘인지에 따라 하드웨어 설계가 바뀐다. AI 알고리즘을 개발한 지 얼마 되지도 않았고, 어떤 용처에 쓸지도 특정하지 않았던 SK텔레콤은 기능이 고정된 ASIC이 아닌 FPGA를 채택했었다.

이를 ASIC으로 바꾼다는 건 용처와 성능을 이미 특정했다는 얘기다. ASIC은 소프트웨어를 아예 하드웨어 형태로 고정(Hardening)시켜 기능을 최적화한 솔루션이다. 한 번 개발에 최소 2년이 걸리는 데다 한 번 칩을 만들고 나면 수정이 불가능하다.

작년 11월 열린 2세대 AIX 발표 기자간담회에서 이강원 SK텔레콤 클라우드 랩장은 “FPGA를 선택한 이유는 성능만이 아니다”라며 “FPGA는 서버에 적용하고 난 다음에도 소프트웨어로 기능을 바꿀 수 있는 이기종 컴퓨팅 솔루션”이라고 설명했다.

흔한 일이지만, 허들은 높다

FPGA에서 ASIC으로 넘어오는 건 반도체 업계에서 흔한 일이다. 팹리스 업체들도 고성능 반도체는 FPGA로 기능과 성능을 검증, 안정화한 다음 이를 특정해 ASIC으로 칩을 만든다. 연구개발(R&D) 단계에서 FPGA를 쓰고 양산은 ASIC으로 한다는 얘기다.

하지만 이는 어디까지나 반도체 업계의 관례다. 

SK텔레콤은 반도체 업체가 아니다. FPGA를 ASIC으로 전환하면 연구개발과 양산 비용이 적어도 10배 이상 증가한다. 설계 역량을 보강해야하니 인건비도 올라가고, 마스크를 포함한 개발비(NRE)도 늘어난다. 비용이 증가하면서 당연히 리스크도 커진다. 

구글·바이두·알리바바 등 ASIC 기반 AI 칩을 만든 글로벌 IT 업체들은 이 비용과 위험부담을 상쇄할만큼 쓸 곳이 많다. 자체 운영 중인 데이터센터 내 서버에만 넣어도 충분히 손익분기점(BEP)을 넘기는 효과를 낼 수 있다. 

반면 SK텔레콤의 사업 영역은 철저히 내수 시장에 초점을 맞추고 있다. R&D를 마무리하고 AI 가속기를 최적화한다는 점에서는 의미가 있지만, 지금까지 투자했던 것의 10배 이상의 비용을 들여 ASIC을 할 필요가 없다. 

업계 관계자는 “네이버조차 자체 ASIC 개발이 아닌 협력사를 통해 ASIC 기반 범용 AI 가속기를 개발, 도입할 계획”이라며 “SK텔레콤이 ASIC으로 가겠다는 건, 팹리스가 양산을 하겠다는 것과 같은 의미”라고 말했다.

SK텔레콤은 AIX로 무엇을 했고, 할 것인가

SK텔레콤이 꿈꾸는 건 AIX의 본격 사업화다. AI를 발판 삼아 단순 이동통신 사업자를 넘어 종합 ICT기업으로 도약하겠다는 전략을 가시화한 것이다. 박정호 SK텔레콤 사장은 8일(현지 시각) 미국 라스베이거스에서 열린 기자간담회에서 '종합 ICT기업'이라는 정체성을 강화하기 위해 'SK텔레콤'의 사명을 바꾸겠다고 밝힌 바 있다.

FPGA의 장점인 유연성은 FPGA 가속기를 공급하는 업체 입장에선 단점이 될 수 있다. 고객사의 요구에 따라 일일이 기능·성능을 바꿔줘야 하기 때문이다. 기능이 고정된 ASIC은 유지보수에 대한 부담이 상대적으로 적다. FPGA보다 전력 소모량도 줄일 수 있다.

SK텔레콤은 이미 1, 2세대 AIX를 발표하면서 사업화 가능성을 지속적으로 시사했다. 

지난 2018년 발표된 1세대 AIX는 AI 음성인식 비서 ‘누구(NUGU)’의 인프라에 최적화돼 개발됐다. 당시 SK텔레콤은 시장 상황을 감안해 AIX를 사업화할 가능성도 있다고 설명했다.(참고 KIPOST 2018년 8월 16일자 <SKT, AI 가속기로 FPGA 채택했다>)

2세대 AIX는 여기서 한 발 더 나아갔다. 당시 SK텔레콤은 5세대(5G) 이동통신망에 들어가는 모바일 엣지 컴퓨팅(MEC)에 AIX를 도입, 올해 3분기부터 다른 업체들이 활용할 수 있게 AI 알고리즘에 대한 애플리케이션 프로그래밍 인터페이스(API)를 제공할 계획이라고 밝혔다.

하지만 1, 2세대 모두 자사의 인프라에 최적화된 알고리즘을 만든 다음 하드웨어를 상용화하는 방식으로 개발이 진행됐다. 어디까지나 SK텔레콤의 인프라를 기반으로 제작돼 타사의 범용 서버에 적용하기가 쉽지 않다는 얘기다.

1세대 AIX는 AI 음성인식 비서 ‘누구(NUGU)’의 서버 인프라에 도입할 목적으로 개발됐고, 2세대 AIX는 자체 ‘티뷰’ 서비스와 ADT캡스가 활용할 수 있도록 영상 인식 알고리즘을 개선하는 데 최적화됐다. 3세대는 ‘누구’의 지식 기반 대화형 서비스를 목표로 개발되지만, 기존 인프라가 아닌 타사 서버에 적용할 수 있을 정도의 범용성을 갖출 것으로 보인다.

AI 가속기를 사업화할만큼의 실력도 가졌다. 

1세대 AIX 발표 당시 업계에서 주목한 건 SK텔레콤이 AI 성능에 직간접적 영향을 주는 디지털신호처리장치(DSP)의 가용성을 95%까지 끌어올렸다는 점이었다. FPGA 개발이 워낙 까다로운 탓에 보통 수백여명 규모의 팹리스 업체들도 DSP의 가용성을 많아봤자 70% 정도 끌어올리는 데 그친다. FPGA 공급 업체인 자일링스 또한 이 점을 높이 샀다.

업계 관계자는 “FPGA는 국내에서도 다룰 수 있는 인재들이 많지 않은데도 이를 백분 활용해 AIX를 개발, 실력이 있다는 걸 증명한 셈”이라고 설명했다.

영상 인식 기능 개선에 초점을 맞춘 2세대 AIX로 SK텔레콤은 실력을 다시 한 번 입증했다. 이 제품은 자일링스의 가속기 카드 ‘알비오(Alveo) U250’를 기반으로 만들어졌지만, 알비오 U250(29TOPS, 77GB/s)보다 성능(32TOPS)도 좋았고, 메모리 대역폭(115GB/s)도 넓었다. 

알고리즘의 목적에 따라 하드웨어가 바뀌는 AI의 특성상 많은 알고리즘을 다뤄볼수록 유리하다. 

SK텔레콤이 개발 중이거나 개발이 끝난 AI 알고리즘은 ▲음성 분석(Audio Analysis) ▲음성 합성(Audio Synthesis) ▲영상 분석 ▲영상 합성 ▲데이터 분석 ▲자연어 ▲슈퍼레졸루션 ▲전략/제어(Strategy/Control) ▲로보틱스 ▲번역 ▲대화 ▲지식 기반 서비스 등으로 광범위하다.

자회사 SK하이닉스와의 협력도 기대된다. 단순 부품 공급사로서 협력할 수도 있지만, 현재  AI 가속기 성능 개선의 가장 큰 병목이 메모리인만큼 기술 개발에서 시너지를 낼 가능성도 크다.

또다른 업계 관계자는 “SK텔레콤은 국내 이동통신 3사는 물론, 글로벌 IT 기업과 비교해도 빠지지 않을 정도의 하드웨어 실력을 갖췄다”며 “자체 AI 가속기는 단순히 통신 사업자를 넘어 AI 업체, 종합 ICT업체로 도약하겠다는 목표의 첫 걸음”이라고 해석했다.