검색창 열기 인더뉴스 부·울·경

Bank 은행

카카오뱅크, 고객상담요약 AI모델 국제학회서 발표

URL복사

Monday, November 27, 2023, 10:11:40

생성형 AI모델 파인튜닝 방식으로 자체 개발
"AI 기반 고객센터 고도화 기술력 인정받아"

 

인더뉴스 문승현 기자ㅣ인터넷전문은행 카카오뱅크(대표이사 윤호영)는 27일 자체개발한 고객상담요약문 생성형 인공지능(AI) 모델을 국제금융분야인공지능컨퍼런스(ICAIF)에서 소개한다고 밝혔습니다.


ICAIF는 금융분야에서 가장 규모가 큰 AI국제학회로 JP모건, 모건스탠리, US뱅크, 블랙록 등 글로벌 주요기관 임직원과 세계유수 대학연구자들이 참여하고 있으며 이 학회에서 연구성과를 발표하는 것은 국내 은행 가운데 카카오뱅크가 처음입니다.


카카오뱅크가 개발한 생성형 AI모델은 금융분야 고객상담 영역에서 제대로 된 요약문을 생성할 수 있다는 점에서 차별성을 갖습니다. 그간 지식이나 일상대화를 요약하는 모형은 있었지만 금융분야 요약문은 제대로 생성되기 어려웠기 때문입니다.


카카오뱅크는 금융상품 관련 지식이나 고객질의를 이해하고 해결방식을 찾아주는 능력과 고객대응능력이 필요하다고 보고 한국어 기반 언어모델에 금융분야 데이터를 재학습시켰습니다.


한번 학습이 완료된 언어모델에 특화데이터를 추가로 학습시켜 원하는 업무영역에서 최고의 성능을 낼 수 있도록 하는 '파인튜닝' 기술을 활용했습니다.


카카오뱅크는 이 모델이 업무에 적용되면 상담원이 상담내역을 요약하는 과정에서 시간단축과 생산성 향상은 물론 상담업무 숙련도와 상관없이 상담요약문의 질적 표준화가 이뤄질 것으로 기대합니다.


카카오뱅크 관계자는 "ICAIF에 제출된 200여편의 논문 중 상위 27%인 53편만 뉴욕 컨퍼런스에서 직접 구두발표할 수 있는 기회가 주어지는데 카카오뱅크는 이런 평가를 성공적으로 통과한 것"이라며 "AI 기반의 고객센터(AICC)를 고도화할 수 있는 기술력을 인정받은 것이기도 하다"고 말했습니다.


이어 "기존의 거대 언어모델만으로 해결하기 어려운 고객상담 요약분야 한계를 극복하는 모델을 도출한데 의미가 크다"면서 "당행의 인공지능 기술이 국내외 주요학회에서 소개될 수 있도록 꾸준하게 개발 노력을 지속할 것"이라고 부연했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

문승현 기자 heysunny@inthenews.co.kr

배너

KT, MS와 개발한 한국적 AI ‘SOTA K’ 출시

KT, MS와 개발한 한국적 AI ‘SOTA K’ 출시

2025.09.29 13:13:32

인더뉴스 이종현 기자ㅣKT[030200]가 마이크로소프트와의 전략적 협업을 통해 개발한 GPT-4o 기반 한국적 AI 모델 'SOTA K built on GPT-4o(이하 SOTA K)'를 출시했다고 29일 밝혔습니다. 기존 거대언어모델(LLM)은 영어권 중심 데이터로 학습돼 한국어와 한국의 독특한 사회·문화적 맥락 반영에 한계가 있었습니다. KT는 이를 해결하기 위해 고품질 한국 특화 데이터를 대규모로 확보하고 마이크로소프트와의 협력을 통해 GPT-4o를 한국 사회에 최적화된 모델로 발전시켰다고 설명했습니다. SOTA K는 한국적 AI의 4대 핵심 철학인 ▲데이터 주권 보호 ▲한국 문화 이해 ▲모델 선택권 보장 ▲안전하고 책임감 있는 AI를 구현합니다. 한국어 경어법·방언은 물론 법률·금융·역사 등 국내 특정 산업군 내에서 사용하는 전문 용어까지 자연스럽게 이해하고 생성할 수 있습니다고 회사 측은 설명했습니다. KT는 한국적 AI 지표를 새롭게 정의하고 이를 측정할 수 있는 자체 데이터셋을 구축해 정량 평가와 정성 평가를 진행했습니다. KT에 따르면 SOTA K는 한국어 이해·생성·추론·사회·문화·한국 전문지식 등 주요 지표에서 GPT-4o 대비 우위를 보였습니다. 특히 한국사·한국어·한국 법령 등 고난도 한국적 지식을 요구하는 대한민국 공무원 시험과 귀화 시험에서 GPT-4o 모델을 능가하는 성과를 거뒀습니다. 실제 고객 사례의 경우, 메리츠화재에서는 보험 업계에 특화된 약관의 자동 요약 리포트 생성과 상담원 스크립트 생성에서 SOTA K가 우수한 결과물을 보여줬습니다. EBS와의 협력에서는 초중고 난이도별 교과 문항을 생성하여 맞춤형 학습을 제공하는 측면에서 SOTA K의 활용 가능성이 확인됐습니다. 또 연세의료원에서는 영어와 한국어가 혼합된 의료 데이터를 환자가 쉽게 이해할 수 있도록 한국적인 표현으로 자연스럽게 안내했으며 날짜 표기법 등의 영역까지 한국인의 생활 방식과 문화를 이해하고 있음을 확인할 수 있었다고 KT는 평가했습니다. 또 한국전력공사에서는 질의에 대해 간결하면서도 명확한 답변을 신속하게 받을 수 있었다고 긍정적으로 평가하며 내부 시스템과의 연동이 가능하다면 활용 범위가 더 넓어질 수 있을 것이라는 기대를 나타내기도 했습니다. SOTA K는 한국적 AI 평가의 Responsible AI 항목에서 높은 평가를 받아 AI 응답 및 법률과 권리 준수, 사회 및 경제 영향도의 안전성, AI 모델의 강건성의 우수성을 입증했습니다. 또 악의적 사용자에 의한 AI 모델 탈옥 공격에 대해서도 강력한 방어 능력을 보유한 모델임을 확인했습니다. KT는 SOTA K를 물리적으로 대한민국 내 존재하는 클라우드 리전에서 운영하며 자체 개발한 벡터 모델 기반 한국적 검색증강생성(RAG) 기술과 결합해 기업별 맞춤형 지식 기반을 구축할 수 있는 서비스 환경도 제공합니다. 이에 고객사는 고유 데이터를 활용해 더 정확하고 특화된 AI 서비스를 경험할 수 있습니다. KT는 우선 자사 B2C 사업에 SOTA K를 적용해 자체 및 협업 모델 라인업을 검증한 뒤 파트너사에 서비스를 확대 제공할 방침입니다. 윤경아 KT Agentic AI Lab장(상무)은 "SOTA K는 글로벌 수준의 기술력과 한국적 AI 특화를 동시에 실현한 혁신적 모델로 마이크로소프트와의 협업을 통해 축적한 기술적 노하우는 향후 KT의 다양한 AI 모델 개발에 확산 적용될 것"이라며 "국내 AI 생태계 활성화는 물론 공공과 민간 전반에서 AI를 활용한 혁신을 주도하며 국가 AI 경쟁력 제고에 기여할 것"이라고 말했습니다.




배너