레드햇이 엔터프라이즈 애플리케이션 개발을 위한 ‘레드햇 엔터프라이즈 리눅스 AI(RHEL AI)’의 1.2버전 출시를 발표했다. RHEL AI는 대규모언어모델(LLM)의 개발 및 테스트, 실행을 위한 생성형 인공지능(AI) 파운데이션 모델 플랫폼이다.

RHEL AI는 생성AI 사용사례에 최적화된 특수 제작 RHEL 이미지와 오픈소스로 공개된 LLM, 인스트럭트랩 모델 정렬 도구가 결합됐다.

이번 1.2버전은 엔터프라이즈 AI의 진입 장벽을 낮추고, 생성AI 도입 촉진을 목표로 설계돼 개발자와 AI 엔지니어, 과학자의 역량 강화를 지원한다. 

RHEL AI 1.2는 엔비디아 GPU가 탑재된 레노버 씽크시스템 SR675 V3 서버에 기본 탑재되며 AMD 인스팅트 가속기를 지원한다. 이를 통해 훈련·추론에 AMD 인스팅트 MI300x GPU를, 추론 작업에는 AMD 인스팅트 MI210 GPU를 활용해 더 원활한 AI 활용을 지원한다는 게 사측 설명이다.

마이크로소프트(MS) 애저, 구글클라우드(GCP)도 지원해 레드햇에서 다운로드한 RHEL AI를 애저나 GCP로 가져와 RHEL AI 기반 GPU 인스턴스를 생성할 수 있다.

체크포인트 설정도 RHEL AI 1.2에서 추가됐다. 주기적인 체크포인트를 설정하는 이 기능은 모델 미세 조정 중 긴 트레이닝 실행을 일정한 간격으로 저장해 인스트럭트랩 사용자가 훈련을 마지막으로 저장된 체크포인트에서 재개할 수 있어 시간과 컴퓨팅 리소스를 절약할 수 있게 한다.

레드햇은 “인스트럭트랩을 비롯한 포괄적 소프트웨어 스택과 AMD 인스팅트 가속기를 포함한 광범위한 하드웨어 가속기를 지원하는 RHEL AI 1.2는 조직이 자체 민감 데이터를 사용해 LLM을 보다 효율적으로 미세조정하고 배포해 엔터프라이즈 용도에 더 잘 맞출 수 있게 한다”고 강조했다.