구글클라우드(GCP)가 인공지능(AI) 추론 향상을 위한 7세대 텐서프로세스유닛(TPU) ‘아이언우드’를 정식 공개했다. 이와 함께 ARNM 기반 ‘액시온’ 가상머신(VM) 인스턴스의 프리뷰 버전도 선보인 GCP는 고객에게 인공지능(AI) 추론과 범용 컴퓨팅 워크로드 전반에서 더 향상된 성능과 효율성 혁신을 제공할 예정이다.

아이언우드는 대규모 모델 학습과 복잡한 강화학습(RL), 대용량·저지연 AI 추론 등 가장 까다로운 AI 워크로드를 처리하도록 설계된 컴퓨팅 솔루션으로 GCP의 통합 AI 슈퍼컴퓨팅 시스템 ‘AI 하이퍼컴퓨터’의 핵심 구성 요소다.

기존 5세대 TPU에 비해 최대 10배 향상된 성능을, 트릴리움(TPU v6e) 대비 칩당 최대 4배 향상된 학습·추론 작업 성능을 제공한다는 게 GCP의 설명이다.

컴퓨팅·네트워킹·스토리지·소프트웨어를 통합해 시스템 전반의 성능과 효율성을 향상시킨 아이언우드는 최대 9,216개의 칩으로 구성된 슈퍼포드로 확장할 수 있으며, 초고속 인터칩 인터커넥트(ICI) 네트워킹 기술로 연결돼 9.6Tb/s의 속도를 구현한다.

GCP는 "이를 통해 1.77PB의 공유 고대역폭 메모리(HBM)에 액세스해 복잡한 AI 모델에서 발생하는 데이터 병목 현상을 최소화할 수 있다"고 강조했다. 

이외에도 아이언우드는 광회로 스위칭(Optical Circuit Switching, OCS) 기술을 적용해 네트워크 장애가 발생해도 실시간으로 경로를 재구성해 서비스 중단 없이 워크로드를 복구할 수 있고, 성능 향상이 필요한 경우에는 수십만 개의 TPU를 클러스터로 확장할 수 있있도록 설계됐다.

지난 4월 프리뷰 버전으로 공개된 아이언우드는 다수의 글로벌 AI 선도기업과 스타트업에서 활용되면서 모델 학습과 서비스 효율 극대화 역량을 검증받았다고 GCP는 설명했다.

아이언우드로 대규모 클로드 모델 학습부터 수백만 명의 사용자에게 서비스를 제공하기 위한 환경 구축을 가속화한 앤트로픽의 경우, 향후 최대 100만 개의 TPU 사용을 계획하고 있는 것으로 알려진다. 

액시온은 아이언우드가 모델 서비스의 복잡한 작업을 처리하는 동안 고용량 데이터 준비, 수집, 지능형 애플리케이션 호스팅과 같은 운영 상의 백본 역할을 수행한다.

GCP는 "프리뷰 버전으로 공개된 N4A는 두 번째 범용 악시온 VM으로 동급 x86 기반 VM 대비 최대 2배 우수한 가격 대비 성능을 제공해 마이크로서비스, 컨테이너화된 애플리케이션, 오픈소스 데이터베이스, 데이터 분석, 웹 서비스 작업 등에 활용할 수 있다"고 설명했다.

GCO는 첫 번째 ARM 기반 베어메탈 인스턴스인 C4A 메탈을 조만간 프리뷰 버전으로 출시할 계획도 공유했다. C4A 메탈은 안드로이드 개발, 차량 내 시스템, 엄격한 라이선스가 필요한 소프트웨어, 복잡한 시뮬레이션 실행과 같은 전문화된 워크로드를 위한 전용 물리 서버를 제공한다. 

GCP는 액시온 포트폴리오에 N4A, C4A, C4A 메탈 등 3개 옵션을 제공함으로써, 고객이 원하는 성능과 워크로드별 요구사항에 부응하면서도 비즈니스 운영의 총 비용을 낮출 수 있도록 지원할 계획이다.

마크 로메이어 GCP 부사장은 “에이전트 워크플로와 컴퓨팅 수요의 기하급수적인 증가는 오늘날 추론의 시대를 새로 정의하고 있다”며 “하드웨어부터 소프트웨어, 관리형 서비스까지 긴밀히 통합된 풀스택 AI 하이퍼컴퓨터를 바탕으로 GCP 고객은 아이언우드와 액시온을 비롯한 다양한 컴퓨팅 옵션을 조합해 가장 까다로운 워크로드에도 최적의 유연성과 성능을 확보할 수 있을 것”이라고 전했다.