업스테이지가 차세대 대규모언어모델(LLM) ‘솔라프로’의 프리뷰 버전을 오픈소스와 무료 API를 통해 전면 공개한다고 밝혔다. 오픈소스로 공개된 프리뷰 버전을 통해 기업은 11월 공개 예정인 솔라프로를 사전 테스트해 볼 수 있다.

솔라프로는 기존 솔라미니의 매개변수(107억개)보다 2배 이상 확장된 매개변수(220억)를 갖춘 LLM이다.

특히 매개변수의 확장에도 불구하고 깊이확장스케일(DUS) 기술 등 LLM 모델링 방법론을 고도화하면서 1개의 GPU에서 구동이 가능한 경량화를 이뤄낸 점을 업스테이지는 특징으로 꼽았다.

솔라프로는 과학·기술·공학·수학(STEM) 종합 지식을 평가하는 ‘MMLU프로’, 지시 이행 능력을 평가하는 ‘IFEval’ 등 최신 LLM 벤치마크 지표에서 기존 솔라미니보다 50% 이상 향상된 성능을 기록했다.

이는 마이크로소프트(MS)의 ‘파이-3 미디엄’, 메타 ‘라마3.1 8B’, 미스트랄AI-엔비디아 ‘네모 12B’, 구글 ‘젬마 2 27B’ 등 유사 사이즈 모델의 성능을 넘어서고 매개변수가 3배 이상 큰 ‘라마3.1 70B’ 등 다중 GPU를 요구하는 모델과 유사한 수준이라는 게 사측 설명이다.

업스테이지는 솔라프로 프리뷰 버전을 오픈소스로 공개하고 API 호출 비용도 무상 지원해 솔라프로의 성능을 공식 출시 전 고객이 경험할 수 있도록 할 방침이다. 프리뷰 버전은 영어만 지원하며, 입력 토큰 수는 4,096자로 제한된다.

업스테이지 김성훈 대표는 “자체 기술로 개발한 최고 수준의 LLM 솔라의 더 강력한 차기 모델을 통해 글로벌 AI 시장 공략을 확대할 것”이라며 “최소의 인프라 비용으로 업계 최강의 성능을 자랑하는 솔라프로의 프리뷰 버전을 통해 더 많은 고객이 테스트를 진행하기를 기대한다”고 말했다.