SK하이닉스가 12일(현지시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 인공지능(AI) 관련 컨퍼런스(AI Hardware & Edge AI Summit 2023, AI서밋)에서 GDDR6-AiM 기반의 생성형 AI가속카드 ‘AiMX’ 시제품을 첫 공개하고 참관객을 대상으로 공개시연에 나섰다.
AI서밋은 영국 마케팅 기업 ‘키사코 리서치’가 주최하는 연례행사로 글로벌 IT기업과 유명 스타트업이 참가해 인공지능(AI/ML) 개발 성과를 공유하는 자리다. SK하이닉스가 이 서밋에 참가한 것은 올해로 세 번째다.
SK하이닉스는 이번 서밋에서 ‘인공지능 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM(Boost Your AI: Discover the Power of PIM with SK hynix’s AiM)’의 슬로건을 걸고 GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 개선한 가속카드 AiMX 시제품을 처음 선보였다
생성AI는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에 대량의 데이터를 다루면서 저전력·고속으로 작동하는 메모리를 필요로 한다.
SK하이닉스는 이 행사에서 메타(Meta)의 생성AI인 ‘OPT(Open Pre-trained Transformer) 13B’ 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다.
SK하이닉스는 “GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만 전력소모는 1/5 수준”이라고 설명했다. AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다.
SK하이닉스 임의철 부사장(메모리솔루션담당)은 ‘생성AI 서비스를 위한 효율적 AiM 가속 솔루션’의 주제로 GPU와 AiMX의 성능을 비교하며 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션이다. 앞으로도 AI 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 밝혔다.
관련기사
- SK하이닉스·인텔, 서버용 DDR5 성능검증 백서 공개
- ‘전 국민의 AI 일상화’…정부, 9천억 들여 초거대AI 경쟁력 제고
- 삼성SDS 황성우, “생성AI 접목한 솔루션으로 하이퍼오토메이션 혁신”
- KT, 업스테이지·콴다에 지분투자…초거대AI 생태계 확장 일환
- “생성AI, SW 엔지니어링 리더 역할도 바꾼다”
- 생성AI(Gen AI) 열풍, 반도체 시장 플레이어 웃는다
- 美 팹리스 그로크(Groq), “1세대 LPU 삼성파운드리 4나노 공정 생산”
- “5나노 ASIC 탑재로 압축효율 최적화”…AMD, 알베오 MA35D 가속기 공개
- [단독] 퓨리오사AI 백준호, “2세대 NPU 내년 상용화, GPU와 전 영역서 경쟁”
- “복합적인 질문에도 답변 척척”…네이버, 생성AI 검색 ‘Cue:’ 베타서비스