엔비디아가 대용량 메모리 인공지능(AI) 슈퍼컴퓨터인 ‘DGX GH200’의 제원을 공개했다. 엔비디아 GH200 그레이스 호퍼 슈퍼칩과 엔비디아 NV링크 스위치 시스템을 바탕으로 생성AI 언어 애플리케이션과 추천 시스템, 데이터 애널리틱스 워크로드를 위한 차세대 거대 모델 개발을 지원하도록 설계됐다.

DGX GH200는 그레이스 호퍼 슈퍼칩과 엔비디아 NV링크 스위치 시스템을 페어링하는 최초의 슈퍼컴퓨터라고 엔비디아는 소개했다. 

GH200 슈퍼칩 256개를 결합해 단일 GPU로 기능하게 함으로써 1엑사플롭 성능을 제공한다. 공유 메모리는 단일 엔비디아 DGX A100 시스템 메모리의 500배에 달하는 최대 144테라바이트를 수용한다. 

이 시스템에는 엔비디아 NV링크 인터커넥트 테크놀로지, NV링크 스위치 시스템이 탑재됐다.

엔비디아 NV링크-C2C 칩 인터커넥트를 이용해 ARM 기반 엔비디아 그레이스 CPU와 엔비디아 H100 텐서코어 GPU를 단일 패키지에 결합한 GH200 슈퍼칩은 CPU와 GPU 간 PCIe를 제거해 공간효율적인 설계를 지원하며, GPU와 CPU간 대역폭을 최신 PCIe 대비 7배 수준으로 높일 수 있다고 엔비디아는 강조했다. 

상호연결에 필요한 전력소비율은 5배 향상됐고  600GB의 호퍼 아키텍처 GPU 빌딩 블록을 확보할 수 있게 한다.

이외 엔비디아 소프트웨어를 포함해 턴키 방식의 풀스택으로 제공된다. 엔비디아 베이스 커맨드 소프트웨어는 AI 워크플로우 관리와 엔터프라이즈급 클러스터 관리, 컴퓨팅/스토리지/네트워크 인프라 가속 라이브러리, AI 워크로드 실행에 최적화된 시스템 소프트웨어를 지원한다. 

엔비디아 AI 플랫폼의 소프트웨어 레이어인 엔비디아 AI 엔터프라이즈를 통해 프로덕션 AI의 개발·배포 간소화도 지원한다.

엔비디아는 "구글클라우드(GCP)와 메타(페이스북), 마이크로소프트(MS)가 DGX GH200을 도입해 생성AI 워크로드 역량을 탐구하고 있으며, 엔비디아도 내부 연구와 개발팀을 지원할 DGX GH200 기반 AI 슈퍼컴퓨터를 자체 구축 중"이라고 설명했다.

엔비디아는 향후 클라우드 서비스 제공업체와 기타 하이퍼스케일러에게 DGX GH200 설계를 바탕으로 한 커스터마이징도 지원할 방침이다.

젠슨 황 엔비디아 CEO는 “생성AI와 대규모언어모델(LLM), 추천 시스템은 현대 경제의 디지털 엔진”이라며 “DGX GH200 AI 슈퍼컴퓨터는 엔비디아의 가장 진일보한 가속 컴퓨팅과 네트워킹 테크놀로지를 통합해 AI의 영역을 확장한다”고 강조했다.