시스템반도체 경쟁력 확보, RISC-V에 주목하라 ④…NPU 블록 탑재한 SoC

- 백준호 퓨리오사AI 대표, “딥러닝 구현에 최적화된 HW/SW 통합이 필수”

[IT비즈뉴스 최태우 기자] 최근 전세계 IT 시장 트렌드를 이끄는 키워드는 단연 ‘인공지능(AI)’이다. AI가 적용된 가상비서, AI가 녹아든 이미지 검색, AI로 막힌 길을 우회하며 최단거리경로를 안내하는 내비게이션이 도처에서 서비스되고 있다.

2년 전 ‘AI’가 새로운 기술을 뜻하는 키워드였다면 이제는 기술을 논할 때 빠지지 않고 등장하는 ‘필수’ 키워드가 된 시대다.

일반 사람들이 인식하고 있는 AI를 구현하기 위해서는 하드웨어(HW)와 소프트웨어(SW)의 유기적인 통합 시스템이 요구된다. 대용량 연산에 최적화된 컴퓨팅파워가 필요하며, 이에 최적화된 스택이 유기적으로 맞물릴 때, 인간의 두뇌를 모방한 지능을 갖춘 시스템을 구현할 수 있는 셈이다.

3년 전 구글이 공개한 ‘바둑을 두는 컴퓨터’인 알파고(AlphaGO)가 전세계 시장에 던진 파급력은 대단했다. “이성과 직관을 갖춘 인간 고유의 사고를 따라잡기에는 어려울 것”이라는 문장의 앞에서 수식어로 자리했던 ‘아직은’이란 단어는 ‘설마’, ‘역시나’로 치환되면서 전세계적으로 크게 주목을 받았다.

기술은 빠르게 진화했으며, 이를 견인한 것은 반도체 미세공정기술의 비약적인 발전을 빼놓을 수는 없다. 중요한 점은, 관련 기술이 지금도 빠르게 진화하고 있다는 사실이다.

◆딥러닝 알고리즘에 최적화된 신경망프로세서에 주목
사실 AI를 구현하는 데 있어 핵심자산으로 꼽히는 반도체(Chip)은 다양하다. 메인프로세서(CPU)나 그래픽프로세서(GPU)의 조합이 사용되거나 구글이 공개한 텐서플로프로세서(TPU)와 같은 특화반도체(ASIC)이 활용되기도 한다. 빠른 연산처리를 지원하는 게 핵심이다.

최근 관련 시장에서 가장 주목받고 있는 것은 신경망프로세서(NPU)다. 인간 신경계를 모방한 구조를 갖고 AI 알고리즘의 하나인 딥러닝에 최적화된 설계자산(IP)으로 AI 연산에 최적화된 점이 특징이다.

데이터가 폭증하고 있으며 연결성이 강화되면서 노드 간 결합이 가속화되는 인프라에서 애플리케이션 개발의 핵심요소로 부상하고 있다.

2017년 4월 설립된 국내 팹리스 스타트업인 퓨리오사AI(FuriosaAI)도 NPU를 개발한다. 딥러닝 추론(Inference)에 최적화된 칩 개발에 나서고 있으며 다양한 산업군에 적용할 수 있는 NPU 블록(block)이 탑재된 AI칩 공급을 목표로 하고 있다.

지난해 8월에는 이미지분류용 시제품인 FPGA를 공개한 바 있으며 내년에는 실리콘 레벨의 ASIC 양산에 들어갈 계획이다. 네이버와 DSC, 산은캐피털의 투자를 받았다.

“기존에는 미세공정기술 고도화에 나섰던 대기업 위주로 관련 시장이 성장해왔다. 향후 사람들이 소비하는 모든 서비스에 AI가 필수로 적용된다고 가정한다면, 각각의 버티컬마켓에 적용할 수 있으며 딥러닝 연산에 최적화된 블록(NPU)을 얼마나 비용효율적으로 제시할 수 있느냐가 시장 경쟁력이 될 것으로 본다.”

백준호 퓨리오사AI 대표가 기자와 만난 자리에서 한 말이다.

(왼쪽부터) 퓨리오사AI 백준호 대표, 김한준 최고기술책임자(CTO)

- 아래는 퓨리오사AI 백준호 대표, 김한준 최고기술책임자(CTO)와의 일문일답 -

Q. NPU 개발에 최적화된 팹리스로 주목받고 있는데
A.
미세공정기술이 빠르게 고도화되면서 거대기업들 위주로 시장이 성장해온 것은 사실이다. 칩 설계자로 살아오면서 봤던 시대적 흐름, 특히 최근 빠르게 변화하고 있는 AI시장에 대한 가능성에 주목했다.

AI 구현에는 HW와 SW 모두 중요하다. 고도화된 IP를 유기적으로 운용할 수 있는 SW가 필수다. 시대적인 요구가 잘 맞아 떨어졌다고 생각한다.

Q. 추론은 서비스 단에 적용된다. 집중하는 시장이 따로 있나
A.
우리는 범용성을 추구한다. 다양한 시장에 적용될 수 있는 제품군을 확보하는 것이 비즈니스적으로 매우 중요하다. 버티컬마켓을 염두에 둬야 한다. 여기에서 파생 가능한 것을 고려해야만 한다.

AI 기술의 진화가 매우 빨리 이뤄지고 있다는 것에 주목해야 한다. 현재 개발된 기술도 조금 지나면 과거의 기술일 뿐이다. 그만큼 고도화가 빨리 진행되고 있음을 알 수 있다.

하루가 멀다하면서 속속 공개되는 기술에 능동적으로 대응(Adaptive)하면서 개발자를 빠르게 지원할 수 있는 방법론이 매우 중요하고 본다. 어떤 환경에서도 능동적으로 대응 가능한 SW, 마이크로아키텍처가 중요하다.

Q. 빠르게 변화하는 기술시장에서의 경쟁력은 뭐라 생각하나
A.
비용효율성이다. 기업은 투자 대비 최적의 결과값을 얻어내야 한다. 구글이나 아마존, 페이스북, 바이두 모두 자체 칩을 개발하고 있다.

차세대 통신망이 구축되고 노드 간 연결성이 폭발적으로 증가하는 최근 상황을 예로 들어보자. 통신인프라가 구축되면서 데이터가 이동하는 고속도로는 넓어졌다. 그만큼 데이터 처리에 대한 이슈가 발생하고 있다.

페이스북만 봐도 오픈페이지부터 AI가 적용된다. 데이터가 폭증하면, 그 많은 사용자 쿼리에 대한 이슈를 해결할 수 있는 방안을 고민하게 된다.

데이터센터를 갖춘 기업도, 글로벌 서비스프로바이더(ISP) 모두 자체 칩을 개발하는 이유는 인프라 구축과 운용에 있어서의 비용을 낮추는 것이 목표다. 클라우드컴퓨팅 환경으로 가면서 이에 대한 니즈는 더 커진 상태며, 앞으로도 늘어날 것으로 본다.

Q. NPU는 하나의 특화 블록이다. CPU/GPU로도 AI 연산은 가능하다
A.
맞는 말이다. 모든 기업들은 자체 보유한 기술에 최적화된 솔루션 개발에 매진하고 있다. 메인칩(CPU) 시스템 환경에서는 이를 보조하는 엑셀러레이터카드를 개발할 수 있으며, 연산에 최적화된 GPU 시스템 환경에서도 비슷하다고 본다.

핵심은, 같은 기능을 제공하면서 비용을 낮출 수 있어야 한다. 하이퍼스케일 데이터센터와 같은 코어시스템이나 엣지 디바이스 환경에서도 비용효율적으로 구현 가능한 칩이 요구된다.

현재 상황을 기준으로 모든 자율주행차에 고가의 CPU/GPU 기반 시스템을 탑재한다면 비용이 만만치 않을 게다. 보유하고 있는 기술을 비용효율적으로 제공할 수 있는 것이 경쟁력이다.

대량 연산이 필요한 학습에는 GPU가, 범용처리를 위한 추론에는 CPU를 많이 사용하고 있으나 아직 최적화된 솔루션은 시장에 존재하지 않는다. 우리에게 기회인 셈이다.

Q. 말대로 AI 기술 트렌드가 매우 빨리 변한다
A.
시장 환경에 적극 대응할 수 있는 유연성이 중요하다. 앞에서 언급했지만 HW와 SW의 유기적인 통합이 매우 중요하다. AI가 폭발적으로 성장할 수 있는 시장이기는 하나 아직은 초기단계다.

최근 각계에서 발표되는 AI 논문사례만 봐도 알 수 있다. 연산량은 20%로 줄었는데 성능은 그대로 유지할 수 있는 알고리즘이 속속 발표되고 있다. 지도학습으로 시작했던 알파고가 비지도학습 기반으로 진화한 상태다. AI가 AI를 설계하는 시대가 도래할 것이라는 말도 나온다.

칩 설계만 잘해서는 안된다. 고정된 알고리즘 하나로 몇 년이나 가는 시대는 끝났다. 컴퓨팅파워를 최대치로 끌어올릴 수 있는 유기적인 SW, 컴파일러가 매우 중요하다. 엔비디아가 왜 AI 기업으로 포지셔닝할 수 있었을까? 쿠다(CUDA)라는 자체 컴퓨팅언어를 갖고 있었기 때문이다.

칩 설계 부문에서 보면 CPU 코어는 오픈소스 아키텍처인 리스크-V(RISC-V)를 활용하고 있다. 핵심 블록인 NPU, 딥뉴럴네트워크(DNN) 모델을 효과적으로 지원하는 컴파일러, 소프트웨어개발키트(SDK) 모두 자체 설계하고 있다. 팹리스기업으로서 HW/SW 모두 제공하는 것을 목표로 한다.

Q. 퓨리오사는 해방군의 대명사다. 시장에서 독특하게 의미화될 수도 있을 것 같다
A.
거침없이 간다는 뜻에서 따왔다. 선도적인 역할을 하자는 의미도 있다. 시스템반도체 경쟁력을 갖추기 위해서는 생태계가 중요하다. 우리와 같은 팹리스가 많이 탄생하고 함께하길 기대한다.

한 가지만 말하고 싶다. IP설계/SW팀 등 20여명이 함께하고 있는 퓨리오사AI는 전문가 집단이다. 우리는 ‘우리가 가장 잘하는 것’을 하고 있다. 그것도 아주 즐겁게 즐기고 있다. 기대해달라.

관련기사

저작권자 © IT비즈뉴스(ITBizNews) 무단전재 및 재배포 금지