최근 AI(인공지능) 기술 개발 속도와 복잡함은 기존 칩들로는 대응할 수 없을 지경이다. AI 반도체로서 GPU가 각광받고 있지만, GPU는 범용 블록과 데이터 패스를 포함하는 탓에 AI 알고리즘을 실행할 때 성능과 전력 면에서 불필요한 소모를 동반한다. 

이러한 손실들은 서버단에서 전력과 성능면에서 큰 비용을 초래한다. GPU만으로는 AI 구현이 충분치 않다는 얘기다. 이를 해결하기 위해 테슬라를 비롯한 테크기업들이 직접 AI 칩 개발에 뛰어들고 있다. 기업들은 자사의 AI 칩에 자신들의 강점을 부각하는 이름을 붙이고 있다. 

테슬라부터 SKT까지 뛰어드는 AI 칩, 명칭은 각양각색

기업들은 효율성과 최적화를 위해 AI개발을 넘어 AI 칩까지 개발에 도전하고 있다. 통상 AI 칩은 NPU(뉴럴프로세싱유닛)로 불린다. 하지만 여러 업체에서 AI 칩을 개발하면서 각기 다른 칩들이 다양한 이름들을 가지고 시장에 나오고 있다. 

테슬라는 AI데이 행사에서 D1칩을 발표했다. D1은 자율주행시스템을 발전시키기 위한 도조 컴퓨터에 탑재된다. 도조 컴퓨터는 하드웨어부터 소프트웨어까지 테슬라가 자체적으로 설계한다. 테슬라는 이 행사에서 DPU(도조프로세싱유닛)라는 용어를 사용했다. D1칩을 탑재해 도조 컴퓨팅 시스템에 활용된다.

구글은 자사 AI 칩을 TPU(텐서프로세싱유닛)로 부르고, 그래프코어는 IPU(인텔리전스프로세싱유닛)라고 부른다. 각기 다른 이름은 회사에서 강조하고자 하는 바를 함축하고 있다. 구글의 TPU는 텐서 연산이 가능하다는 것을 강조하며, 그래프코어의 IPU는 딥러닝을 넘어 다양한 지능적 연산이 가능하다는 것을 내세운다. 테슬라는 자사의 도조 시스템을 구현한다는 점을 강조하는 것으로 보인다.

SKT는 사피온X220라는 AI 칩을 개발해 지난해 공개했다. SKT는 자사의 인공지능 ‘누구'에 이 칩을 적용해 관련 서비스의 발전과 확대를 노리고 있다. 

기존 칩들로는 AI의 복잡성에 대응 불가…지원 소프트웨어도 중요

AI 칩은 딥러닝을 위해 설계돼 크고 복잡한 데이터를 처리하는데 특화되었다. ETRI(한국전자통신연구원)의 인공지능프로세서 기술동향에 따르면, AI 알고리즘은 대량의 연산이 반복되는 구조로 되어 있다. AI 알고리즘은 갈수록 다뤄야 하는 매개변수와 가중치가 늘어나 그 복잡도가 증가하고 있다.

기존 CPU는 큰 덩어리의 연산을 순차적으로 처리한다. GPU는 병렬 처리가 가능하지만 갈수록 커지는 AI 알고리즘의 복잡성에 대응하지 못하고 있다. 

이전까지는 GPU 중심으로 AI 활용이 이루어졌다. 하지만 GPU는 딥러닝만을 위해 설계된 것이 아니다보니 최적화 부분에서 아쉬운 점이 크다. ETRI에 따르면, GPU는 응용성에 방점을 둔 구조로 인해 AI 알고리즘 처리에 필요하지 않은 블록과 데이터 패스(연산과 관련된 요소)를 포함하여 성능과 전력 면에서 불필요한 소모가 불가피하다. 이러한 작은 코스트들이 서버 차원에서 모이면 아주 큰 비용으로 지출되기 때문에 AI 전용 칩에 대한 시장이 생기기 시작했다. 

그러나 단순히 칩을 설계했다고 해서 성능이 제대로 나오는 것은 아니다. AI 칩에서 코어 역할을 하는 맥의 개수와 성능이 보여주는 지표성능과 실제성능이 다를 수 있다. 알고리즘이 얼마나 칩과 호환되도록  설계되었는지에 따라 그 연산능력이 갈린다. 그래서 이를 지원하는 소프트웨어의 역량도 AI 칩 성능향상에 크게 영향을 미친다. 관련 소프트웨어로는 엔비디아의 쿠다와 그래프코어의 포플러가 대표적이다.  

AI 칩의 춘추전국시대는 모바일 AP처럼 계속될까

현재 AI 칩 시장은 춘추전국시대처럼 여러 업체들이 생산하고 경쟁하고 있다. 이들은 오랜 노하우와 역사를 가지고 시장을 선도하고 있는 엔비디아와 싸우고 있다. 지금은 시장이 태동하는 단계라 신규 진입자들이 등장하고 있지만, 시장이 성숙해짐에 따라 CPU나 GPU처럼 압도적 기술력을 가진 기업이 시장을 장악할 가능성도 있다. 

특히 엣지단에서 다양한 애플리케이션에 사용되는 AI 칩은 용도에 따라 무수한 AI 칩 업체가 공존할 가능성이 높으나, 서버처럼 소수의 고객만 존재하는 시장에서는 AI 칩도 과점 체제로 정리될 수순이다.

모바일 AP(애플리케이션프로세서) 시장 역시 유사한 과정을 거쳐 진화해왔다. 애플⋅삼성전자⋅화웨이 등 스마트폰 회사들이 각자 필요한 기능을 강조한 AP를 개발하는가 하면, 퀄컴⋅미디어텍처럼 다양한 스마트폰에 적용되는 범용 AP를 개발하는 회사도 있다. 스마트폰 시장이 태동하던 2010년 초만 해도 10여개 AP 업체가 경쟁하기도 했다.

AI 칩 업계 관계자는 “현재는 시장이 커져가는 단계이기 때문에 이전에는 관심을 갖지 않던 기업들도 연구개발에 뛰어들고 있다"며 “서버용 시장 같은 경우 업계 레퍼런스와 안전성이 중요하므로 향후 기술력을 가진 기업들이 시장을 지배할 것"이라고 말했다.