검색창 열기 인더뉴스 부·울·경

Tech 테크

엔비디아, 구글과 AI ‘젬마’ 성능 업그레이드

URL복사

Friday, February 23, 2024, 09:02:34

엔비디아 AI 플랫폼 전반에서 텐서RT-LLM으로 성능 가속화
미세조정, 프로덕션 애플리케이션 배포 가능
맞춤형 챗봇 제공하는 '챗 위드 RTX'에서도 젬마 지원 예정

 

인더뉴스 이종현 기자ㅣ엔비디아가 구글과 협력해 모든 엔비디아 AI 플랫폼에서 AI 모델 '젬마(Gemma)'를 위한 최적화를 실시했다고 23일 밝혔습니다.

 

젬마는 구글의 새로운 경량 오픈 언어 모델입니다. 멀티모달 모델인 제미나이(Gemini) 개발에 사용된 동일한 연구와 기술을 기반으로 구축됐으며 엔비디아는 구글과 협력해 엔비디아 텐서RT-LLM(TensorRT-LLM)으로 젬마의 성능을 가속화했습니다. 텐서RT-LLM은 데이터센터, 클라우드 혹은 엔비디아 RTX GPU가 탑재된 PC에서 대규모 언어 모델(LLM) 추론을 최적화하는 오픈 소스 라이브러리입니다.

 

개발자들은 클라우드 상의 엔비디아 GPU에서도 젬마를 실행할 수 있습니다. 여기에는 H100 텐서 코어(H100 Tensor Core) GPU를 기반으로 하는 구글 클라우드 A3인스턴스(A3 instances)가 포함되며 초당 4.8테라바이트의 141GB HBM3e 메모리를 갖춘 엔비디아 H200 텐서 코어 GPU도 합류할 예정입니다. 구글은 올해 안에 이를 배포할 예정입니다. 

 

또한 엔비디아 기술 데모인 챗 위드 RTX에 곧 젬마가 추가로 지원될 예정입니다. 챗 위드 RTX는 검색 증강 생성(Retrieval-augmented generation, RAG)과 텐서RT-LLM 소프트웨어를 사용해 로컬 RTX 기반 윈도우 PC에서 사용자에게 생성형 AI 기능을 제공하는 기술입니다.

 

챗 위드 RTX는 로컬에서 모델이 실행되므로 결과가 빠르게 제공되며 사용자 데이터가 디바이스에 유지됩니다. 클라우드 기반 LLM 서비스에 대신 챗 위드 RTX를 사용하면 민감한 데이터를 제3자와 공유하거나 인터넷에 연결할 필요 없이 로컬 PC에서 처리할 수 있습니다.

 

엔비디아는 지난 21일 미국 뉴욕증시 마감 후 실적발표를 통해 2023 회계연도 4분기(지난해 10월~올 1월)기준 매출 221억300만달러(약 28조원), 주당순이익(EPS) 5.16달러를 기록했다고 밝혔습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

한화생명, 미국 증권사 벨로시티 인수 완료…북미 자본시장에 도전장

한화생명, 미국 증권사 벨로시티 인수 완료…북미 자본시장에 도전장

2025.07.31 17:56:17

인더뉴스 박호식 기자ㅣ한화생명이 미국 증권사 ‘Velocity Clearing(이하 ‘벨로시티’)’ 지분 75% 인수 절차를 성공적으로 마무리하고, 보험 중심의 포트폴리오를 넘어 북미 자본시장으로 전략적 확장을 본격화합니다. 이번 벨로시티 인수는 국내 보험사가 ‘글로벌 자본시장의 중심부’인 미국 증권시장에 진출한 최초의 사례입니다. 이로써 한화생명은 미국 현지 금융사를 통해 수익성을 높이고 우수한 글로벌 금융 상품을 글로벌 고객에게 제공할 수 있는 플랫폼을 마련했습니다. 뉴욕을 거점으로 한 벨로시티는 금융거래 체결 이후 자금과 자산이 실제로 오가는 과정을 직접 처리할 수 있는 역량(청산·결제)을 갖춘 전문 증권사입니다. 2024년말 기준 벨로시티는 총자산 약 12억달러(한화 약 1조6700억원)를 보유하고 있으며, 최근 3년간(2022~2024년) 매출 기준 연평균 성장률(CAGR) 25%를 기록하는 등 높은 성장세를 이어가고 있습니다. 당기순이익 또한 안정적인 증가세를 보이며 인수 이후에도 지속적인 수익성 확대가 예상된다는 설명입니다. 한화생명은 기존 벨로시티 경영진과의 협업을 통해 조기 사업안정화를 추진함과 동시에 한화자산운용 미주법인, 한화AI센터(HAC) 등과 협력해 금융과 기술이 결합된 시너지를 키워 나갈 방침입니다. 한화생명 관계자는 “한화생명이 금융의 핵심지인 미국 시장에서 한국 금융사로서 역량을 펼칠 수 있는 계기를 확보했다는데 큰 의미가 있다”며 “앞으로도 디지털금융 기술과 글로벌네트워크를 바탕으로 사업 역량을 강화하고 지역간 연결을 강화해 안정적인 성장을 이어가겠다”고 밝혔습니다. 벨로시티 마이클 로건(Michael Logan) 대표는 “한화생명의 글로벌 비전과 네트워크가 더해져 벨로시티의 성장속도가 한층 가속화될 것으로 기대하며 앞으로도 양사 간 시너지를 극대화해 나가겠다”고 말했습니다. 한편 한화생명은 각 지역의 금융환경에 맞춘 차별화 전략을 통해 글로벌 금융 생태계를 확장해 나가고 있습니다. 동남아에서는 리테일 금융 경쟁력을 강화하고, 미주에서는 플랫폼 기반의 투자기능을 고도화하면서 전략적 거점을 중심으로 글로벌 사업을 본격화하고 있습니다. 한화생명은 앞으로는 디지털기술과 글로벌 파트너십을 결합해 글로벌 고객에게 종합금융솔루션을 제공하는 브랜드로 도약할 계획이라고 밝혔습니다.




배너