레드햇 “엔터프라이즈 AI 고객 선택권 강화…AI혁신 지원 확대”

레드햇이 엔터프라이즈 AI에서 고객 선택권을 확대한다고 발표했다. 레드햇 AI 인퍼런스 서버, 레드햇 AI 서드파티 검증 모델, 라마 스택과 모델컨텍스트프로토콜(MCP) API의 통합 등 엔터프라이즈 AI 포트폴리오 전반에 걸친 주요 업데이트를 통해 고객 선택권을 확대하고 AI 혁신 지원 역량을 확대한 것이다. 

레드햇 AI 포트폴리오에 새롭게 추가된 레드햇 AI 인퍼런스 서버는 하이브리드 클라우드 환경 전반에서 더 빠르고 일관되며 비용 효율적인 대규모 추론을 제공한다. 이 기능은 레드햇 오픈시프트 AI, 레드햇 엔터프라이즈 리눅스 AI(RHEL AI)의 최신 버전에 통합되며, 독립형 솔루션으로도 제공되된다.

레드햇 AI 서드파티 검증 모델은 기업이 특정 요구사항에 적합한 모델을 쉽게 찾을 수 있도록 지원하는 솔루션으로 허깅페이스에서 제공된다.

검증된 모델 컬렉션과 배포 가이드를 제공해 레드햇 AI의 모델 성능·결과 재현성에 대한 고객 신뢰를 높이며, 레드햇으로 최적화된 일부 모델은 모델 압축 기술을 활용해 크기를 줄이고 추론 속도를 높여 자원 소비와 운영 비용을 최소화할 수 있다고 레드햇은 설명했다.

레드햇 AI는 라마 스택과 앤트로픽의 MCP를 통합해 사용자에게 AI 애플리케이션·에이전트 구축과 배포를 위한 표준화된 API를 제공한다.

현재 레드햇 AI에서 개발자 프리뷰로 제공되는 라마 스택은 모든 생성형 AI모델 전반에서 vLLM 추론, 검색 증강 생성(RAG), 모델 평가, 가드레일과 에이전트 기능에 액세스할 수 있는 통합 API를 제공한다.

MCP는 API, 플러그인, 데이터 소스를 연결하는 표준 인터페이스를 제공함으로써 에이전트 워크플로우에서 외부 도구와의 통합을 지원한다.

한편, 레드햇 오픈시프트 AI의 최신 버전(v2.20)은 ▲최적화된 모델 카탈로그 ▲쿠브플로우 트레이닝 오퍼레이터 기반 분산 학습 ▲기능 저장소 등 생성AI와 예측형 AI 모델을 대규모로 구축·학습·배포·모니터링할 수 있는 추가 기능들을 포함한다.