마이크로소프트(MS)가 첫 번째 자체개발 인공지능(AI) 칩 2종을 발표하면서 칩셋 개발 경쟁에 합류했다. MS가 발표한 자체개발 칩은 대규모언어모델(LLM) 학습·추론을 위해 설계된 ‘애저 마이아’와 ARM 아키텍처 기반 클라우드네이티브 칩인 ‘애저 코발트’다.

최근 글로벌 빅테크 기업들에서는 칩셋 개발이 하나의 트렌드로 번져가고 있는 모습으로, 클라우드 컴퓨팅, 인공지능(AI)과 같은 새로운 컴퓨팅 방식의 확산이 자체개발 칩 경쟁을 부추기고 있다고 평가된다.

자체개발 칩을 통해 차별성을 확보하고 상용 반도체를 뛰어넘는 성능과 비용효율성을 고객에게 제공해 경쟁우위를 높이는 핵심키로 자체개발 칩셋이 부상하고 있는 것이다.

일례로, 퍼블릭클라우드 서비스 부동의 1위 기업인 아마존웹서비스(AWS)는 클라우드 서버용 프로세서인 ‘그래비톤’을 개발해 적용하고 있다. 기존의 x86 기반 인스턴스보다 더 높은 성능과 에너지 효율성을 강점으로 내세운 그래비톤은 AWS 상위 100대 고객 모두가 그래비톤을 활용할 정도로 큰 성공을 거두면서 AWS의 경쟁우위 요소로 역할하고 있다.

구글 역시 동영상 변환에 특화된 칩인 ‘아르고스’를 자체개발해 유튜브의 성능을 높인 바 있으며, 인텔과 공동으로 데이터센터에서 네트워킹을 위한 데이터 패키징 작업을 수행하는 E2000을 개발한 바 있다.

이에 더해 구글은 새로운 클라우드 서버용 칩셋인 ‘싸이프레스’와 ‘메이플’을 개발하고 있다는 소식도 전해지는 등 자체개발 칩셋을 활용해 클라우드 서비스 경쟁력을 높이기 위한 시도가 한창이다.

MS의 코발트는 클라우드에서 수행되는 다양한 워크로드의 성능과 전력효율성을 높이는 자체개발 칩셋으로, MS의 클라우드 서비스 ‘MS 애저’의 서비스 경쟁력을 높인다는 전략이다.

MS는 코발트와 함께 호스트 서버의 프로세스를 전용 하드웨어/소프트웨어(HW/SW)로 이동시켜 스토리지·네트워크 성능을 향상시키는 소프트웨어인 ‘애저 부스트’도 발표하면서 자체개발 칩을 중심으로 하는 클라우드 전략을 강화하는 모습이다. 자체개발 칩을 기반으로 하는 데이터센터 최적화가 클라우드 경쟁의 한 축으로 자리하고 있다.

◆AI 우위를 확보하라
AI 분야에서도 자체개발 칩셋 열풍이 불고 있다. 생성AI와 같은 AI 모델은 복잡하고 많은 연산을 필요로 하는 작업이 요구되는데, 이를 수행하는 최적화 칩으로 차세대 주도권을 확보하려 하는 것이다.

구글, AWS, 메타 등은 자사의 AI 모델, 소프트웨어 스택, 시스템 하드웨어 등에 최적화한 AI칩을 개발해 경쟁우위를 높이려 하고 있다.

구글은 2016년부터 텐서프로세싱유닛(TPU)이라는 AI 전용칩을 개발해 데이터 분석과 학습에 사용하고 있으며, 최근 전작(TPU v.4)보다 달러당 최대 2배의 학습 성능과 최대 2.5배의 추론 성능을 제공하는 5세대 TPU(TPU v.5e)를 발표하는 등 진화에 박차를 가하고 있다.

구글 설명에 따르면, TPU는 신경망 처리에 최적화된 설계로, 그래픽 처리에 특화된 GPU보다 향상된 AI 학습과 추론 성능을 제공한다.

AWS도 AI 추론용 칩 ‘인퍼런시아’와 훈련용 칩 ‘트레이니엄’을 개발해 데이터센터에 적용하고 있다. 트레이니움을 통해 AI 모델을 훈련시키고 인퍼런시아를 기반으로 AWS의 AI 서비스 ‘알렉사’의 음성인식, 영상인식을 제공하고 있는 것이다. 

메타도 AI 훈련·추론을 위한 MTIA(Meta Training and Inference Accelerator)를 공개했다. MTIA는 메타의 AI 소프트웨어인 파이토치와 호환되도록 설계됐으며 현재 페이스북, 인스타그램 등 메타의 소셜미디어 플랫폼에서 콘텐츠·광고 추천 알고리즘 강화에 활용되고 있다.

메타는 메타버스와 생성AI와 같은 차세대 AI에도 MTIA를 활용할 계획이며, 비용효율적인 동영상 전송을 위한 MSVP(Meta Scalable Video Processor)도 자체개발해 활용하고 있다. 

이외에도 바이두, 알라바바 등도 각각 ‘쿤룬’, ‘이텐910’ 등 자체개발한 서버용 AI칩을 발표하고, 자사 데이터센터에 적용한다고 밝혔다. 비즈니스에 최적화된 커스텀칩을 통해 AI 경쟁력을 강화하기 위한 행보다. 

여기에 MS가 애저 마이아를 통해 자체개발 AI칩 경쟁 대열에 합류한 것이다. MS 마이아는 오픈AI 모델, 빙, 깃허브 코파일럿, 챗GPT와 같은 AI워크로드가 애저 클라우드에서 더 원활하게 수행하도록 해 애저 AI 서비스 경쟁력을 높일 것으로 관측된다. 

다른 한편으로 자체개발은 현재 AI칩 시장의 대부분을 차지하는 엔비디아 의존도를 낮추기 위한 목적도 존재한다고 풀이한다.

코로나19 팬데믹을 거치면서 안정적인 공급망 확보의 중요성이 부각됐는데, 엔비디아 칩셋에 대한 높은 의존도가 AI 기반 비즈니스의 리스크가 될 수 있으며, 이의 해결책으로 자체개발의 필요성이 높아졌다는 설명이다.

실제로 H100 등 엔비디아의 AI칩은 생성AI의 빠른 확산에 따른 수요 급증으로 공급 부족현상을 보이고 있다.

한편, 모건스탠리는 AI 반도체 시장이 올해 430억달러(약 55조7500억원)에서 2027년에는 1,250억달러(약 162조500억원)으로 전망하면서 시장 성장의 수혜를 TSMC와 같은 반도체 파운드리 기업이 받을 것으로 예측했다.

맞춤형 AI칩이 클라우드 기반 AI 반도체 시장 점유율의 30% 이상으로 증가하면서 AI 반도체를 위탁 생산하는 파운드리 업체가 성장의 기회를 잡게 될 것이라는 설명이다.