검색창 열기 인더뉴스 부·울·경

Tech 테크

엔비디아, 구글과 AI ‘젬마’ 성능 업그레이드

URL복사

Friday, February 23, 2024, 09:02:34

엔비디아 AI 플랫폼 전반에서 텐서RT-LLM으로 성능 가속화
미세조정, 프로덕션 애플리케이션 배포 가능
맞춤형 챗봇 제공하는 '챗 위드 RTX'에서도 젬마 지원 예정

 

인더뉴스 이종현 기자ㅣ엔비디아가 구글과 협력해 모든 엔비디아 AI 플랫폼에서 AI 모델 '젬마(Gemma)'를 위한 최적화를 실시했다고 23일 밝혔습니다.

 

젬마는 구글의 새로운 경량 오픈 언어 모델입니다. 멀티모달 모델인 제미나이(Gemini) 개발에 사용된 동일한 연구와 기술을 기반으로 구축됐으며 엔비디아는 구글과 협력해 엔비디아 텐서RT-LLM(TensorRT-LLM)으로 젬마의 성능을 가속화했습니다. 텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리입니다.

 

개발자들은 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있습니다. 여기에는 H100 텐서 코어(H100 Tensor Core) GPU를 기반으로 하는 구글 클라우드 A3인스턴스(A3 instances)가 포함되며 초당 4.8테라바이트의 141GB HBM3e 메모리를 갖춘 엔비디아 H200 텐서 코어 GPU도 합류할 예정입니다. 구글은 올해 안에 이를 배포할 예정입니다. 

 

또한 엔비디아 기술 데모인 챗 위드 RTX에 곧 젬마가 추가로 지원될 예정입니다. 챗 위드 RTX는 검색 증강 생성(Retrieval-augmented generation, RAG)과 텐서RT-LLM 소프트웨어를 사용해 로컬 RTX 기반 윈도우 PC에서 사용자에게 생성형 AI 기능을 제공하는 기술입니다.

 

챗 위드 RTX는 로컬에서 모델이 실행되므로 결과가 빠르게 제공되며 사용자 데이터가 디바이스에 유지됩니다. 클라우드 기반 LLM 서비스에 대신 챗 위드 RTX를 사용하면 민감한 데이터를 제3자와 공유하거나 인터넷에 연결할 필요 없이 로컬 PC에서 처리할 수 있습니다.

 

엔비디아는 지난 21일 미국 뉴욕증시 마감 후 실적발표를 통해 2023 회계연도 4분기(지난해 10월~올 1월)기준 매출 221억300만달러(약 28조원), 주당순이익(EPS) 5.16달러를 기록했다고 밝혔습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

CJ제일제당, 스웨덴 ‘바이오 머티리얼즈’와 파트너십 체결

CJ제일제당, 스웨덴 ‘바이오 머티리얼즈’와 파트너십 체결

2025.10.31 09:17:14

인더뉴스 문정태 기자ㅣCJ제일제당이 생분해성 바이오소재 ‘PHA(Polyhydroxyalkanoates)’의 글로벌 상용화를 본격 확대합니다. CJ제일제당은 스웨덴 바이오소재 컴파운딩 기업 ‘BIQ머티리얼즈’와 PHA 적용 인조잔디 충전재 사업 협력을 위한 파트너십을 체결했다고 31일 밝혔습니다. BIQ머티리얼즈는 유럽 최초로 PHA 기반 충전재를 개발해 특허를 보유한 기업입니다. 이번 협약에 따라 CJ제일제당은 인조잔디 충전재에 적합한 PHA 소재를 공급하고, BIQ머티리얼즈는 제품 생산을 담당합니다. 양사는 유럽 시장에서 PHA 상용화를 적극 추진할 계획입니다. PHA는 미생물이 식물 유래 성분을 섭취해 세포 내에 축적하는 고분자 물질로 토양·해양·퇴비 환경에서 모두 분해되는 것이 특징입니다. CJ제일제당은 지난 2022년 PHA 상업 생산을 시작해 브랜드 ‘PHACT’를 론칭했습니다. 유럽연합(EU)은 인조잔디 충전재를 미세플라스틱 발생 주요 품목으로 지정하고, 오는 2031년부터 석유계 충전재 사용을 금지할 예정입니다. 회사는 이에 따른 친환경 충전재 수요 증가에 대응해 현지 시장 공략에 나선다는 계획입니다. 지난 30일 독일 프랑크푸르트에서 열린 협약식에는 정혁성 CJ제일제당 BMS본부장과 프레드릭 베리에고르 BIQ머티리얼즈 회장 등이 참석했습니다. 이날 정혁성 본부장은 “유럽에서 PHA 적용 분야를 넓히는 계기가 될 것”이라며 “지속가능 소재 솔루션을 지속 발굴하겠다”고 말했습니다. 한편, CJ제일제당의 미국 자회사 CJ바이오머티리얼즈는 ‘2025 바이오플라스틱 어워드 혁신상’을 수상했습니다. 비결정형 PHA(aPHA) 기술이 지속가능성과 확장성을 인정받았습니다. CJ제일제당은 ▲코스맥스(화장품 용기) ▲이토추플라스틱스(일본 유통 협력) 등과도 협업하며 PHA 응용 시장을 확대하고 있습니다.




배너