SK텔레콤 AI서비스용 슈퍼컴퓨터(HPC) '타이탄' [사진=SK텔레콤]
SK텔레콤 AI서비스용 슈퍼컴퓨터(HPC) '타이탄' [사진=SK텔레콤]

SK텔레콤이 자체 대규언어모델(LLM)에 협력사의 모델을 결합한 ‘멀티 LLM’ 전략을 추진한다. 기업·공공기관의 수요에 따라 LLM이 가진 특장점을 발휘할 수 있도록 서비스를 연결하는 ‘산업별 특화 LLM 서비스’ 제공을 목표로 내걸었다.

앞서 SK텔레콤은 한국어 기반 자체 LLM ‘에이닷’의 기업용 파운데이션 모델을 이달 공개하고 고객사 대상 학습 및 최적화 작업을 진행하고 있다. 에이닷 LLM은 학습한 데이터와 서비스 특성상 대화와 챗봇 등 통신사형 서비스에 강점을 지녔다는 게 SK텔레콤의 설명이다.

여기에 자료 입력 시 최대 7만5000단어(10만 토큰)까지 입력할 수 있는 엔트로픽 LLM과 한국어 데이터가 상대적으로 풍부한 코난테크놀로지스 LLM을 더했다.

SK텔레콤은 한국어 기반 구축형 LLM 시장에서 에이닷 LLM을 중심으로 시장 공략을 강화하고 초거대 인공지능(AI) 중심 경쟁이 예상되는 클라우드형의 경우 엔트로픽 LLM을 활용할 계획이다.

엔트로픽과는 SK텔레콤의 주요 B2B 서비스에 LLM 기능을 결합 판매하는 방안을 협의하고 있으며 기능 통합 작업이 완료되는 4분기부터 서비스를 제공할 방침이라고 SK텔레콤은 설명했다.

SK텔레콤은 “전국 단위 IT인프라를 운용한 경험과 대규모 AI 개발자 풀을 바탕으로 하드웨어 인프라에서 소프트웨어에 이르는 기업·공공용 인공지능 풀스택 서비스를 비용효율적으로 구축할 수 있을 것으로 기대한다”고 밝혔다.

최근 지분투자를 단행한 AI컨택센터(AICC) 기업 페르소나AI와 LLM 구축 사업 협력을 추진하는 등 다양한 방식으로 관련 생태계 확장에도 집중할 예정이다.

SKT는 행정안전부, 과학기술정보통신부 등에서 추진하고 있는 LLM 기반 사업 참여를 준비하고 있으며 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 추진하고 있다.

김경덕 SK텔레콤 엔터프라이즈 CIC담당 부사장은 “다양한 멀티 LLM 조합을 기반으로 고객이 실제 필요한 서비스를 신속하게 제공하는 것이 중요하다”고 말했다.

관련기사

저작권자 © ITBizNews 무단전재 및 재배포 금지