지난해 국내 서버 시장이 GPU 서버 수요가 늘면서 전년보다 73% 성장한 것으로 집계됐다.

4일 IDC가 발간한 보고서(국내 서버 컴핏 보고서)에 따르면, 2024년 국내 서버 시장은 전년비 72.7% 성장하며 5조1425억원의 매출 규모를 형성했다. 성장 견인의 가장 큰 원동력은 GPU 서버로 2023년에 이어 2024년에도 세 자리수의 높은 성장세를 이어갔다.

특히 높은 ASP(Average Selling Price)의 8 GPU 서버의 성장으로 2023년 국내 서버 시장의 26.2%에 이르던 GPU 서버 시장은 2024년 45%까지 성장했다. GPU 뿐만 아니라 non-GPU 서버 역시 전년비 29.6% 성장한 것으로 나타났다. 

IDC는 “팬데믹 이후 하드웨어 공급이 안정화되며 제조·디지털 서비스 사업자가 그간 도입을 주저한 랙서버 부문에서 회복세가 이어졌기 때문”으로 분석했다.

IDC는 국내에서 생성AI의 급격한 확산으로 인해 대규모 AI 모델의 학습·추론에 최적화된 GPU 서버에 대한 수요가 빠르게 증가하고 있다고 분석했다.

기존의 서버 인프라가 CPU 중심이었다면 이제는 병렬 연산에 강한 GPU가 AI 연산의 핵심으로 떠오르며 서버 시장의 주도권이 CPU에서 GPU로 전환되는 추세다. 

이같은 변화 속에서 엔비디아는 고성능 GPU 하드웨어뿐만 아니라 소프트웨어 생태계(CUDA)까지 아우르는 독보적인 기술력으로 시장을 사실상 독점하고 있으며 기업들은 이에 맞춰 AI 인프라를 엔비디아 GPU 중심으로 설계하고 있다. 

IDC는 “AI 중심의 컴퓨팅 패러다임 변화는 서버 산업 전반의 구조를 재편하고 있으며, GPU는 새로운 기술 시대의 핵심 자산으로 부상하고 있다”고 분석했다.

다수의 기업에서 x86 서버로의 전환이 확대되고 있는 가운데 국내 서버 시장에서 x86 서버는 90% 이상을 차지하고 있다. 2024년 국내 x86 서버 시장은 전년비 75.6% 성장한 4조7215억원으로 집계됐다.

동기간 non-x86 서버 시장 역시 기존 유닉스 서버 보다는 글로벌 하이퍼스케일러의 ARM 서버 도입이 늘면서 전년비 45.7% 성장한 4,210억원을 기록했다. 

x86 서버는 기술 발전과 함께 가격 대비 성능이 크게 향상되었을 뿐만 아니라 기업의 가상화 및 클라우드 확산으로 지속적인 성장이 이어지고 있다. 

x86 서버가 현재 시장의 주류 아키텍처로 자리 잡으면서 엔터프라이즈 인프라 구성에서 중심적인 역할을 하고 있으나 여전히 금융권의 계정계와 공공·국방 등 민감한 시스템에서는 non-x86 서버 도입이 유지되고 있다. 

이들 시스템은 전환에 따른 기술적 리스크, 복잡한 마이그레이션 과정, 장기간 축적된 노하우와 운영 경험 등을 이유로 쉽게 대체되지 않고 있는 상황이다.

x86 서버는 범용성과 경제성을 기반으로 서버 시장에서 대세로 자리했으나, 특정 산업 분야에서는 여전히 non-x86 서버가 핵심 인프라 자리를 굳건히 하고 있으며 이 양상은 앞으로도 일정 기간 지속될 것으로 IDC는 전망했다.

한국IDC 엔터프라이즈 인프라 시장 리서치 부문 김민철 수석연구원은 “최근 많은 기업의 IT 예산이 AI와 생성AI 인프라 확충을 위한 GPU 도입에 집중되고 있는 추세”라며 “허나 AI 분야에 대한 집중 투자 못지않게 중요한 것은 기존 IT인프라에 대한 지속적인 관리와 투자”라고 언급했다.

이어 “노후화된 장비의 교체, 운영 중인 시스템에 대한 기술 지원 및 안정성 확보는 전체 IT환경의 신뢰성과 연속성을 유지하는 데 핵심적인 요소다. AI 도입이 미래 경쟁력을 위한 전략적 선택이라면 기존 인프라에 대한 투자는 현재 업무의 안정적 수행을 위한 기반”이라며 “AI 중심의 예산 편성과 더불어 기존 장비에 대한 점검과 교체, 유지보수에도 균형 잡힌 투자가 병행돼야 한다”고 조언했다.