파네시아, 온디바이스AI용 엣지 AI서버 개발 국책과제 수주

팹리스 스타트업 파네시아가 온디바이스AI 관련 국책과제를 수주했다. 차세대 링크 솔루션을 온디바이스AI 관련 인프라에 적용해 사용자 수요에 맞게 구성을 유연하게 조정 가능한 고성능·고신뢰성 엣지AI 서버 개발에 착수한다.

온디바이스AI는 클라우드를 거치지 않고 장치나 근처 외부 단(Edge) 서버에서 직접 요청을 처리해 데이터 전송과정으로 인해 발생하는 보안 이슈와 데이터 지연을 최소화할 수 있는 장점이 있다.

엣지컴퓨팅 기술은 비교적 적은 연산 자원으로도 수행이 가능한 기계학습(ML) 모델의 추론과정을 가속하는 데에 초점을 두고 개발이 이뤄졌으나 최근 개인정보보호 강화 및 맞춤형 AI서비스 제공을 목적으로 일부 학습과정도 온디바이스AI 형태로 처리하려는 수요가 증가하고 있다. 

이에 추론에 최적화된 온디바이스AI용 컴퓨팅 구조와 학습 연산도 최적화된 형태로 가속할 수 있는 구조의 개발이 필요한 상황이다.

파네시아는 국책과제 수행에서 차세대 링크솔루션 적용을 통해 추론과 학습, 추론·학습 동시 수행 등 사용자의 수요에 맞춰 자원 구성을 유연하게 조정가능한 온디바이스AI용 엣지 
서버를 개발한다.

차세대 연결 기술인 컴퓨트익스프레스링크(CXL)를 지원하는 스위치(CXL 스위치)가 장착된 형태로 설계될 예정으로, 특히 GPU와 NPU, CPU, 메모리 등 다양한 장치를 모듈식으로 장착할 수 있는 형태로 각각의 시스템 요구사항을 만족하는 다양한 형태로 시스템 구현이 가능한 점이 특징이다.

가령 대규모 데이터를 필요로 하는 모델 기반 추론일 경우 메모리 자원을 높은 비율로 장착하고, 추론 대상이 빈번하게 변경돼 주기적인 재학습이 필요한 환경일 경우 학습에 최적화된 자원과 추론에 최적화된 자원의 비율을 높이는 형태로 재구성할 수 있는 형태다.

연구진은 높은 수준의 신뢰성을 보장하기 위한 ‘온디바이스AI 암호화 기능 강화용 하드웨어 모듈’과 ‘엣지컴퓨팅 전력 최적화 기술’도 개발한다. 

이 과제는 파네시아를 중심으로 카이스트(KAIST), 유니스트(UNIST), 연세대, 한양대 등 주요 대학이 컨소시엄을 구성해 협업하는 형태로 수행된다.

과제의 연구책임자를 맡은 파네시아 권미령 최고전략책임자/최고운영책임자(CSO/COO)는 “차근차근 누적해 온 온디바이스AI 관련 기술력과 파네시아의 중점 기술인 링크솔루션을 접목해 유연성 측면에서 차별화된 온디바이스AI 솔루션 개발에 나설 것”이라고 밝혔다.