AMD 인스팅트 GPU 인프라서 코히어 노스 운영 가능
AMD가 보안 중심 엔터프라이즈 AI기업 ‘코히어(Cohere)’와의 파트너십을 확장하고 협력에 나선다고 25일 밝혔다.
양사 파트너십 확장을 통해 ▲커맨드 A(Command A) ▲커맨드 A 비전 ▲커맨드 A 번역 모델 ▲노스(North) 등 코히어의 전체 AI 제품군을 AMD 인스팅트(Instinct) GPU 기반 인프라에서 구현할 수 있게 됐다.
AMD는 코히어의 노스 플랫폼을 자사 내부 엔터프라이즈 AI 포트폴리오에 통합할 계획이라고 밝혔다. 이에 따라 코히어의 기술은 AMD 내부 및 엔지니어링 AI 워크로드의 핵심 요소로 활용된다.
AMD는 “양사 간 이번 발표는 AMD와 코히어가 AMD 인스팅트 GPU 기반 인프라에서 코히어의 엔터프라이즈 대규모언어모델(LLM)을 최적화해 온 그간의 협업을 확장하는 것”이라고 설명했다.
코히어는 앞서 6월 열린 AMD의 ‘어드밴싱 AI 2025’ 행사에서 AMD 기술로 구동되는 자사의 모델들이 이미 다양한 기업에 배포되고 있다고 밝혔다.
코히어에 따르면, 이 모델을 통해 긴 문장의 맥락을 추론하고 복잡한 워크로드를 처리하기에 충분한 메모리 대역폭과 용량을 제공하면서 배포 규모는 줄이고 AI인프라 운영의 총소유비용(TCO)을 낮추는 효과를 얻었다.
AMD는 “보안·프라이버시를 강조하는 코히어의 AI 모델에 AMD의 고성능 AI인프라가 결합돼 국가 데이터와 보안, 규제요건을 준수하는 소버린AI 구축을 지원할 수 있게 됐다”고 설명했다.
닉 프로스트 코히어 공동 설립자는 “AMD 인스팅트 GPU에서 코히어의 여러 모델과 노스를 사용할 수 있게 되면서 AMD와의 관계를 확장하게 됐다”며, “AMD는 AI인프라를 통해 매력적인 TCO를 제공하기 때문에 전세계 소버린AI 프로젝트의 훌륭한 선택지가 될 것”이라고 말했다.
밤시 보파나 AMD AI 부문 수석부사장은 “코히어의 풀스택 AI솔루션이 AMD 인스팅트 인프라에 배포할 수 있게 되면서 기업과 정부는 뛰어난 성능, 효율성 및 메모리 용량 등을 바탕으로 AI를 확장할 수 있게 됐다”며, “AMD의 컴퓨팅 플랫폼을 통해 고객들은 총소유비용과 에너지 효율이라는 이점을 동시에 누릴 수 있게 된 것”이라고 말했다.
관련기사
- 엔비디아, 오픈AI AI인프라 구축에 최대 1천억 달러 투자
- 알고리즘 최적화가 AI 핵심 키…“소버린AI, 보호 아닌 경쟁력 강화해야”
- 트럼프 英 국빈 방문에 맞춰 美빅테크들 ‘대규모 투자 계획’ 공식화
- 구글, 영국에 68억 달러 투자…첨단 데이터센터 짓는다
- [인사] AMD, 아태·일본 커머셜 채널 사업 총괄에 서니 간디 선임
- 카카오엔터, AMD와 개발자 밋업…AI인프라 성능 고도화 협력
- 슈퍼마이크로, AMD 인스팅트 MI350 탑재 AI솔루션 공개
- 노키아 클라우드 인프라에 ‘AMD 에픽’ 프로세서 적용
- 오픈AI도 자체 AI칩 개발…“브로드컴과 공동 설계, 생산은 TSMC”
- HPE, AMD ‘에픽’ 기반 프로라이언트 서버 출시