레드햇이 하이브리드클라우드 전반에서 인공지능(AI) 솔루션의 개발·배포를 가속화할 수 있도록 설계된 ‘레드햇AI’의 최신 업데이트를 발표했다.

레드햇 AI는 모델 학습·추론을 위한 엔터프라이즈 AI 플랫폼으로 향상된 효율성과 간소화된 사용자경험, 하이브리드 클라우드 환경 어디서든 배포할 수 있는 유연성을 제공한다.

레드햇 오픈시프트AI와 레드햇 엔터프라이즈 리눅스AI(RHEL AI)를 포함하는 레드햇AI는 사용자가 비즈니스별 데이터에 맞춰 보다 효율적이고 최적화된 모델을 채택하고, 하이브리드클라우드 전반에 배포해 광범위한 가속 컴퓨팅 아키텍처에서 학습·추론을 수행할 수 있는 플랫폼을 제공해 기업의 AI 혁신을 지원한다. 

새롭게 발표된 레드햇 오픈시프트AI 2.18은 ▲여러 GPU에 걸쳐 모델 서빙을 분할하는 분산 서빙 ▲대규모언어모델(LLM)의 미세 조정을 간소화하는 엔드투엔드 모델 조정 경험 ▲LLM의 정확도와 성능, 투명성 개선을 지원하는 AI 가드레일 ▲모델의 전반적 품질 정보를 제공하는 모델 평가 등의 향상된 기능을 지원한다. 

RHEL AI 1.4는 검색·증강·생성(RAG) 작업을 위한 128k 컨텍스트 윈도우 기능이 추가된 그래니트 3.1 8B 모델을 지원하며, 비공개 데이터로 미세조정된 AI 모델을 동일한 기본 모델의 성능을 비교할 수 있게 하는 문서 지식 벤치 등의 기능이 추가됐다. 

조 페르난데스 레드햇 AI사업부 부사장은 “레드햇AI는 데이터 위치에 무관하게 모델을 배포할 수 있게 하고 기업이 자사 데이터를 기반으로 보다 효율적이고 특수 목적 모델을 학습시켜 온프레미스, 클라우드, 엣지 환경 전반에서 유연한 추론을 지원한다”고 말했다.

한편, 레드햇은 고객의 AI 역량 강화를 위해 무상 온라인 AI 파운데이션 교육을 시작한다고 전했다. 레드햇AI를 활용해 AI가 비즈니스 운영에 유용한 정보를 제공하고, 의사결정 간소화를 수행하는 방법에 대한 교육으로 기업의 AI 혁신 역량 향상에 기여할 것으로 레드햇은 기대했다.