
인더뉴스 권용희 기자ㅣ엔비디아(CEO 젠슨 황)는 기업별 데이터를 활용해 생성형 인공지능(AI) 애플리케이션 제작을 지원하는 '엔비디아 AI 레디 서버'를 출시했다고 23일 밝혔습니다.
'엔비디아 AI 레디 서버'는 생성형 AI 기반 모델을 미세 조정하고 지능형 챗봇, 검색, 요약 도구 등 생성형 AI 애플리케이션 구현을 돕는 서버 솔루션입니다.
해당 서버에는 ▲엔비디아 L40S GPU ▲엔비디아 블루필드-3 DPU ▲엔비디아 AI 엔터프라이즈 소프트웨어가 탑재됩니다.
L40S GPU는 수십억 개의 매개변수가 있는 복잡한 AI 워크로드를 처리하도록 설계됐습니다. 4세대 텐서 코어와 FP8 트랜스포머 엔진이 포함됩니다.
엔비디아 블루필드 DPU를 통합하면 가상화, 네트워킹, 스토리지, 보안과 기타 클라우드 기반 AI 서비스의 엄청난 컴퓨팅 부하를 가속화, 오프로드 또는 격리해 속도를 더욱 높일 수 있습니다.
해당 서버는 ▲초거대언어모델(LLM)을 위한 '엔비디아 네모' ▲시뮬레이션을 위한 '엔비디아 모듈러스' ▲데이터 사이언스를 위한 '엔비디아 래피즈' ▲프로덕션 AI를 위한 '엔비디아 트리톤 추론 서버' 등 엔비디아 AI 플랫폼 운영 체제인 엔비디아 AI 엔터프라이즈가 탑재됩니다. 이를 통해 100개 이상의 프레임워크, 모델, 툴킷, 지원과 보안을 제공합니다.
엔비디아 L40S 기반 서버는 델 테크놀로지, 휴렛팩커드 엔터프라이즈, 레노버 등 글로벌 시스템 제조업체를 통해 연말 출시를 앞두고 있습니다. 해당 서버는 엔터프라이즈용 생성형 AI 가속화에 활용될 예정입니다.
엔비디아는 AI 레디 서버가 신약 개발, 유통 제품 설명, 지능형 가상 어시스턴트, 제조 시뮬레이션 등 광범위한 애플리케이션에 활용될 것으로 내다봤습니다.
젠슨황 엔비디아 CEO는 "모든 산업 분야의 기업들이 생성형 AI를 도입하기 위해 경쟁하고 있다"면서 "엔비디아는 세계 최고의 소프트웨어와 시스템 파트너 에코시스템을 통해 전 세계 기업들에게 생성형 AI를 제공하고 있다"고 말했습니다.
마이클 델 델 테크놀로지스 CEO는 "엔비디아 AI 레디 서버가 탑재된 Dell 생성형 AI 솔루션은 전례 없는 수준의 생산성을 높이고 산업 운영 방식을 혁신함으로써 인류의 발전을 앞당기는 데 중요한 역할을 할 것"이라고 말했습니다.
양 위안칭 레노버 CEO는 "기업들은 지능형 혁신을 위해 생성형 AI를 도입하기를 열망하고 있다"면서 "레노버는 엔비디아와의 협력을 통해 생성형 AI 분야의 리더십을 더욱 확장하고 고객의 AI 여정을 지원하는 데 있어 독보적인 입지를 공고히 하겠다"고 말했습니다.