레드햇이 NTT와 함께 아이온 기술을 기반으로 엣지에서 실시간 생성형 인공지능(AI) 데이터 분석을 수행할 수 있는 솔루션을 공동 개발했다고 밝혔다.

레드햇과 NTT는 차세대 통신 표준 협의체 아이온 이니셔티브의 일환으로 엣지컴퓨팅 환경에서 AI 분석을 수행할 수 있는 실시간 생성AI 데이터 분석 솔루션을 개발했다고 설명했다. 

양사는 레드햇 오픈시프트 플랫폼에 솔루션을 구축해 실제 실행가능성과 사용사례에 대해 아이온 글로벌 포럼의 개념증명(PoC)을 획득했다. 

레드햇과 NTT가 개발한 솔루션은 아이온 올 포토닉스 네트워크(APN)과 아이온 데이터 중심 인프라(DCI) 내 데이터 파이프라인 가속 기술로 구성됐다.

 APN을 통한 원격 직접 기억장치 접근(RDMA) 기술에 기반한 NTT의 AI용 가속 데이터 파이프라인을 통해 엣지에서 대량의 센서 데이터를 효율적으로 수집·처리할 수 있다는 게 레드햇의 설명이다.

솔루션에 대한 아이온 글로벌 포럼의 PoC는 일본 요코스카시를 센서 설치거점이다. 무사시노시를 원격 데이터센터로 설정하고 두 곳을 레드햇 오픈시프트에서 APN으로 연결하는 방식으로 진행됐다.

레드햇은 PoC를 통해 AI 분석을 위한 센서 데이터를 집계하는 데 필요한 지연시간이 기존 AI 추론 워크로드 대비 60% 단축시킬 수 있음을 확인했고 전력소비량도 기존보다 40% 절감했다고 설명했다. 

CPU의 병목 현상 없이 더 많은 수의 카메라를 수용할 수 있는 GPU 확장가능성도 검증됐다. 

카츠히코 카와조 NTT 수석부사장은 “NTT그룹은 파트너와 긴밀하게 협업하면서 지속 가능한 사회를 실현하기 위해 아이온의 발전에 박차를 가하고 있다. 이번 PoC는 AI의 집단 지성을 지원하는 AI용 그린 컴퓨팅을 향한 중요한 진전으로, 아이온을 통해 넷제로의 지속가능한 미래를 구현하고자 한다”고 말했다.

크리스 라이트 레드햇 CTO는 “이번 PoC를 통해 지속가능하고 혁신적인 AI 기반 솔루션을 구축할 수 있음이 입증됐다”며 “레드햇은 오픈시프트를 통해 대규모 AI 데이터 분석을 실시간으로 제한 없이 제공할 수 있도록 지원할 수 있다”고 강조했다.