생성AI(Gen AI) 열풍, 반도체 시장 플레이어 웃는다

인공지능(AI) 열풍이 이어지고 있다. 흥미로운 지점은 AI 열풍이 반도체 산업의 실익으로 나타나고 있다는 점이다. 대표적인 AI반도체(AI칩) 기업인 엔비디아의 2분기 실적발표는 시장예상치를 훌쩍 뛰어넘으면서 이를 입증했다.

AI 열풍은 뜬구름이 아닌 현실이다. 구글, 마이크로소프트(MS) 등 빅테크의 실적을 살펴보면 직접적으로 느낄 수 있다. 

구글(알파벳)은 2분기 클라우드 부문에서 전년비 28% 성장한 80억달러의 매출을 달성했는데, AI 클라우드 서비스 이용 고객의 대폭적인 증가가 호실적을 견인한 동력으로 작용한 것으로 알려졌다.

순다르 피차이 구글 CEO에 따르면 코히어, 재스퍼 등 생성AI 분야 유니콘 기업의 70% 이상이 구글클라우드(GCP)를 활용하는 등 AI 활용 확산이 클라우드 비즈니스를 반등시키고 있다. 

MS 역시 마찬가지다. MS의 2분기 실적은 야심차게 진행했던 AI 기반 빙 검색이 예상보다 낮은 점유율을 나타내는 등의 요인으로 실망감을 안겼지만 이와 별개로 클라우드 부문은 매출이 전년동기비 26% 증가한 등 순항을 이어갔다.

MS의 클라우드 서비스 사업인 ‘애저’ 연간매출이 사상처음으로 매출의 과반을 차지하면서 주력 사업으로 자리매김했음을 과시했다.

클라우드의 확산은 전반적인 디지털전환(DT)의 추세에 따른 것이지만, 이에 더해 AI의 확산이 추가 동력으로 작용하고 있다고 평가된다. AI 모델은 막대한 컴퓨팅 리소스를 필요로 하는데, 강력한 컴퓨팅 파워를 빠르게 제공할 수 있는 클라우드가 최적의 선택으로 떠오르면서 탄력을 받고 있다는 것이다.

AI 기반 챗봇, AI 검색, AI 문서 작성 등은 물론 제조·보안, 빅데이터 분석 등 다양한 영역에서 기술 활용이 확산되면서 AI를 동력으로 하는 클라우드의 성장 추세는 이어질 전망이다.

◆AI칩 공급부족 사태, 생산량 ‘늘리고’ 자체 칩 ‘개발하고’
반도체 분야도 AI의 직접적 수혜를 받고 있다. 호실적으로 시장 기대에 부응한 엔비디아가 대표적이다. 엔비디아는 올해 주식시장에서 회사 주가가 3배 넘게 상승하는 등 AI 확산의 수혜주로 기대를 받았다. 그리고 어닝 서프라이즈로 평가받는 최근 분기 실적 발표를 통해 AI 최고 수혜주의 기대가 허상이 아님을 입증했다. 

엔비디아의 실적을 살펴보면 2024년 회계연도 2분기(5월1일~7월30일) 매출 135억1000만달러로 전년동기비 100% 이상 증가를 달성했으며 영업익은 1,263% 늘어난 68억달러, 순익은 61억8800만달러로 843% 증가했다.

이는 매출·이익 양 측면에서 시장 예상치를 20~30% 상회한 결과다. 엔비디아의 시장기대치 역시 한껏 높아진 상황에서 예상을 넘어서는 성과로 AI 이슈를 실질적 성과로 연결시키고 있음을 보여준 것이다.

AI 열풍 확산과 함께 AI칩도 주목을 받고 있다. 대표적인 AI칩으로 불리는 엔비디아 H100은 공급부족 현상이 발생해 화제를 모으기도 했다. 특히 최근 AI 열풍의 주역인 생성AI는 막대한 파라미터를 요구하는 만큼 방대한 AI칩을 요구해 공급부족 현상을 발생시킨 것이다. 

현재 AI칩 시장의 90% 이상을 점유하고 있는 엔비디아 H100의 경우, 공급부족으로 가격상향은 물론 수개월의 대기가 발생하고 있다고 보고된다.

엔비디아는 문제 해결을 위해 데이터센터용 AI칩 생산량을 늘리기 위한 방안을 추진 중으로 내년 최대 4배의 생산량 증가를 고려하고 있다는 외신 보도가 나오기도 했다.

새로운 시장으로 급부상하는 AI칩에 대한 참여도 증가하고 있다. AMD는 CES2023에서 발표한 ‘인스팅트 MI300’을 올 4분기 공식 출시할 예정이며 인텔도 ISC2003에서 2025년 중 대규모 데이터 연산을 지원하는 ‘팔콘쇼어’를 출시한다고 밝히는 등 AI칩 경쟁이 본격화될 양상이다. 

빅테크 기업들도 자체 칩 개발에 한창이다. 2016년부터  TPU라는 자체 개발 칩을 활용해 온 구글은 TPUv4까지 향상시킨 상황이며, 2013년부터 ‘니트로’라는 특수 하드웨어를 활용해온 아마존웹서비스(AWS)는 ‘인퍼런시아’와 ‘트레이니엄’을 사용해 AI 서비스에 활용하고 있다.

MS는 AMD와 협력해 내년 ‘아테나’라는 AI 칩셋을 개발해 활용할 예정이며, 메타는 ‘MTIA’란 자체 개발한 AI칩을 공개하면서 생성AI 학습·추론과 관련 서비스 제공에 활용하겠다는 계획을 보고했다.

빅테크 기업의 자체 AI칩 확보는 비용절감과 동시에 AI 경쟁력을 확보하기 위함이다. 자체 칩을 통해 공급망의 특정 기업 종속을 억제하고 칩 공급부족 사태와 같은 외부 변수를 제거한다는 의미도 지닌다.

◆AI칩 스타트업 춘추전국시대
스타트업의 참여도 활발하다. 그래프코어, 삼바노바, 셀레브라스 등의 반도체 스타트업이 AI칩에서 기회를 엿보고 있는 것으로 기존의 칩과 다른 AI칩의 특성을 활용해 시장 진입을 노리고 있는 것이다. 

이들 가운데 완전한 머신러닝 모델을 갖춘 프로세서(IPU)를 개발하는 그래프코어는 국내에도 진출해 한국전자통신연구원(ETRI)과 고효율 AI 컴퓨팅 개발을 위한 업무협약을 체결하면서 화제를 모으기도 했다.

누비아는 2021년 퀄컴에 14억달러라는 높은 가격에 인수돼 화제를 모으기도 했으며, 초대형 AI가속기 ‘WSE’로 유명한 셀레브라스는 최근 41억달러 규모의 기업 가치를 인정받으며 업계의 관심을 받았다.

국내에서도 AI칩 경쟁에 뛰어든 스타트업 간 경쟁이 치열하다. 네이버가 투자한 퓨리오사AI가 선보인 1세대 AI칩 ‘워보이’는 2021년 하반기 MLPerf 벤치마크에서 엔비디아 T4보다 월등한 이미지 분류, 객체 검출 성능을 기록했으며, 엔비디아의 A100의 단일 인스턴스와 대등한 성능을 나타내 화제를 모았다.

퓨리오사AI는 5나노 공정 2세대 칩(레니게이드)을 출시해 AI칩 시장 공략을 가속화할 계획으로 AI 비즈니스를 가속화하고 있는 네이버와도 AI반도체 실증사업을 진행하고 있다.

퓨리오사AI 외에도 SK스퀘어, SK하이닉스, SK텔레콤 등 3사가 투자한 사피온과 KT 투자를 유치한 리벨리온 등이 AI칩 분야에서 기회를 모색하고 있다. 사피온은 데이터센터용 AI칩 ‘아톰’을, 리벨리온은 2020년 ‘X220’에 이은 차세대 모델 ‘X330’을 선보이면서 시장 개척에 나서고 있다.

◆고성능 메모리 시장 플레이어의 분주한 움직임
AI칩 외에 다른 반도체 분야에서도 AI는 긍정적 영향을 미치고 있다. 메모리의 경우, PC, 스마트폰 등 전방 산업의 부진으로 어려움을 겪고 있지만, AI가 반전의 키를 제공할 것으로 기대하고 있다. 특히 AI 확산으로 고대역폭 메모리인 HBM의 수요 증대가 기대된다는 것이다.

HBM은  메모리 다이를 수직 배열하고, 실리콘을 관통하는 통로(TSV)를 뚫어 데이터 처리 속도를 끌어올린 적층형 메모리다. 그래픽 D램(GDDR)보다 더 가까운 거리에 패키징되면서 향상된 대역폭을 통해 높아진 성능을 제공할 수 있어 AI칩에 최적화된 메모리 방식으로 꼽히고 있다.

현재 AI에 대한 폭발적 수요로 인해 HBM 역시 공급 용량이 한계에 도달했다고 있다고 분석된다. 트렌드포스에 따르면, HMB 충족비율은 -2.4%로 수요에 비해 공급이 부족한 상황이다. 이러한 수요 증대에 맞추기 위해 삼성전자, SK하이닉스 등은 공격적으로 HBM 생산 라인을 늘릴 예정이다. 

이에 따라 현재의 전체 메모리 시장의 1% 가량인 HBM 시장도 큰 성장이 기대된다. 트렌드포스는 공급업체의 현재 생산 계획에 따르면, 2024년까지 HBM 비트 공급은 연간 105% 급증할 것으로 예측하면서 매출 기준 시장 규모는 120% 이상 증가해 89억달러 규모에 달할 것으로 기대했다.

모르도인텔리전스는 HBM 시장 규모가 올해 20억4000만달러에서 2028년에는 63억2200만달러로 3배 이상 확대될 것으로 전망했다.

HBM은 기존 D램보다 가격대가 높은 고부가가치 제품이다. GDDR 대비 2~3배 더 높은 가격대를 형성하고 있으며, 올해 AI칩 열풍과 공급부족 현상이 나타나면서 HBM의 가격대도 급상승한 것으로 알려졌다.

HBM3 가격은 올해 5배 이상 상승했으며 이는 메모리 반도체에 주력하는 삼성전자와 SK하이닉스의 실적 개선을 이뤄낼 수 있게 하는 요소로 주목된다. 

더불어 HBM은 우리나라 기업이 강점을 가져가고 있는 분야다. SK하이닉스가 시장 점유율 50%로 선두에 서 있으며, 삼성이 40%를 점유하고 있다. 미국 마이크론은 HBM 시장의 10% 수준에 그치고 있다.

엔비디아가 공개한 ‘GH200 그레이스호퍼 슈퍼칩’의 경우, 초당 5TB의 HBM3E가 요구되는데 이는 전세계에서 삼성전자, SK하이닉스만이 유이하게 공급 가능할 정도로 기술 격차도 존재한다.

증가된 고성능 AI칩 수요로 인해 올해부터 최신 HBM3가 전체  HBM 시장의 과반 이상을 차지하는 주류 기술로 채택될 것으로 기대되면, 내년에는 HBM3 점유율이 60%를 넘어설 것으로 전망된다.

이는 HBM에 대한 공격적 투자에 나선 삼성전자, SK하이닉스의 상황과 맞물리면서 마이크론의 점유율을 더욱 감소시키고 양강 체제를 더욱 공고히 할 것(트렌드포스 예상 양사 점유율 합계 95% 이상)으로 예측된다.

◆반도체 사이클 변화 감지, 본격적인 AI시대 개막 신호탄
이 외 AI 수요는 FC-BGA 등 첨단 패키징 기술에 대한 수요 증대도 가져오고 있다. AI에서 요구하는 고성능 반도체 구현을 위해서 한계에 이른 회로 미세화보다 이종결합과 반도체 패키징이 주목받는데, 이를 위해 고성능 반도체 패키징 기판인 FC-BGA 수요가 증가하고 있는 것이다.

다른 한편으로 AI칩, HBM 등의 호조는 반도체 산업의 사이클 변화를 방증한다. 기존 반도체 산업은 전방 산업의 부침에 따라 등락이 이어지던 경향이 짙었다. 소비자 PC, 스마트폰 등 전방 전자기기 산업의 부진이 반도체 산업의 침체를 이끈 것이다.

팬데믹으로 강화된 전산업의 디지털전환 가속이 이러한 흐름에 변화를 가져왔으며, AI 시대의 개막은 변화를 공고히 할 주춧돌이 될 것이라는 기대다.

소비자 제품에 비해 안정적으로 수요가 발생되는 데이터센터 등의 비중이 커지고, 자동차, 제조장비, 로봇 등으로 더욱 다변화되면서 경기에 따른 수요부침 현상은 크게 완화될 수 있기 때문이다.

실제로 반도체 기업들의 수익성은 디지털전환 이슈와 최근 AI 수요에 따라 과거와는 다른 양상을 나타내고 있다. 팬데믹 기간 전세계 반도체 장비 매출이 공고한 성장을 이뤄내고, 지난해 사상 최고 매출을 기록한 것은 수년 주기의 반도체 슈퍼사이클 주기가 변동하고 있음을 보여주는 사례다.