“생성AI 서비스에 특화”…SK하이닉스, GDDR6-AiM 기반 가속카드 시제품 첫 공개

SK하이닉스가 12일(현지시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 인공지능(AI) 관련 컨퍼런스(AI Hardware & Edge AI Summit 2023, AI서밋)에서 GDDR6-AiM 기반의 생성형 AI가속카드 ‘AiMX’ 시제품을 첫 공개하고 참관객을 대상으로 공개시연에 나섰다.

AI서밋은 영국 마케팅 기업 ‘키사코 리서치’가 주최하는 연례행사로 글로벌 IT기업과 유명 스타트업이 참가해 인공지능(AI/ML) 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.

SK하이닉스는 이번 서밋에서 ‘인공지능 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM(Boost Your AI: Discover the Power of PIM with SK hynix’s AiM)’의 슬로건을 걸고 GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 개선한 가속카드 AiMX 시제품을 처음 선보였다

생성AI는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에 대량의 데이터를 다루면서 저전력·고속으로 작동하는 메모리를 필요로 한다.

SK하이닉스는 이 행사에서 메타(Meta)의 생성AI인 ‘OPT(Open Pre-trained Transformer) 13B’ 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다.

SK하이닉스는 “GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만 전력소모는 1/5 수준”이라고 설명했다. AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. 

SK하이닉스 임의철 부사장(메모리솔루션담당)은 ‘생성AI 서비스를 위한 효율적 AiM 가속 솔루션’의 주제로 GPU와 AiMX의 성능을 비교하며 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션이다. 앞으로도 AI 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 밝혔다.