Electronics 전기/전자

SK하이닉스, LLM 특화 가속기 카드 ‘AimX’ 시제품 공개

Monday, September 18, 2023, 10:09:02 크게보기

‘AI 하드웨어&엣지 AI 서밋 2023’서 공개
메모리 반도체에 연산 기능 더해져
“GPU 대비 속도 10배 이상, 전력 소모 5분의 1 수준”

 

인더뉴스 권용희 기자ㅣSK하이닉스[000660]는 지난 12일(미국시간)부터 사흘간 미국 캘리포니아주에서 열린 'AI 하드웨어&엣지 AI 서밋 2023'에서 GDDR6-AiM 기반 생성형 인공지능(AI) 가속기 카드 AiMX 시제품을 최초 공개했다고 18일 밝혔습니다.

 

AI 서밋은 영국 마케팅 기업 키사코 리서치가 주최하는 연례 행사로, 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리입니다.

 

SK하이닉스는 이번 서밋에서 '인공지능 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM'이라는 슬로건을 걸고, GDDR6-AiM과 이 제품을 여러개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 선보였습니다.

 

 

AiMX는 메모리 반도체에 연산 기능을 더한 'GDDR6-AiM'칩을 사용해 대규모 언어 모델(LLM)에 특화된 가속기 카드 제품입니다. 생성형 AI는 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 합니다.

 

SK하이닉스는 메타(Meta)의 생성형 AI인 'OPT 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했습니다.

 

SK하이닉스는 "GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 5분의 1 수준"이라고 밝혔습니다.

 

임의철 SK하이닉스 메모리솔루션담당(부사장)은 "SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션"이라며 "앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것"이라고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

권용희 기자 brightman@inthenews.co.kr

Copyright @2013~2025 iN THE NEWS Corp. All rights reserved.



인더뉴스(주)/ 인터넷신문 등록번호: 서울 아 02788/ 등록일 2013년 8월 26일/ 제호: 인더뉴스(iN THE NEWS)/ 발행인 문정태·편집인 박호식, 주소: 서울시 종로구 새문안로92, 광화문오피시아빌딩 1803호 발행일자: 2013년 9월 2일/ 전화번호: 02) 6406-2552/ 청소년보호 책임자: 박호식 Copyright © 2013~2025 인더뉴스(iN THE NEWS) All rights reserved. / 인더뉴스(주)의 모든 콘텐츠는 저작권법의 보호를 받으므로 무단 전재·복사·배포 등을 금합니다. (단, 기사내용을 일부 발췌한 뒤 출처표기를 해서 ‘링크’를 걸어 두는 것은 허용합니다.)