검색창 열기 인더뉴스 부·울·경

ICT 정보통신

카카오, AI 안전성 검증 위한 가드레일 모델 ‘카나나 세이프가드’ 공개

URL복사

Tuesday, May 27, 2025, 14:05:18

생성형 AI 안전성, 신뢰성 검증 가능
총 3종 모델 오픈소스로 공개

 

인더뉴스 이종현 기자ㅣ카카오[035720]는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 'Kanana Safeguard(카나나 세이프가드)'를 개발하고 국내 기업 최초로 총 3종의 모델을 오픈소스로 공개한다고 27일 밝혔습니다.

 

최근 다양한 생성형 AI 서비스들이 확산되는 가운데 유해 콘텐츠의 위험성에 대한 사회적 우려가 증대됨에 따라 카카오는 기술적·제도적 장치인 AI 가드레일 시스템 마련에 대한 필요성을 인식하고 'Kanana Safeguard' 모델을 개발하게 됐다고 설명했습니다.

 

카나나 세이프가드는 카카오가 자체 개발한 언어모델 '카나나'를 기반 기술로 활용했으며 한국어 및 한국 문화를 반영한 자체 구축 데이터셋을 활용해 한국어에 특화된 성능을 보유하고 있습니다. AI 모델의 정밀도와 재현율을 평가하는 수치인 F1 스코어(F1-Score)를 기준으로 평가한 결과, 한국어 성능에서 글로벌 모델 이상의 성과를 기록했습니다.

 

이번에 오픈소스로 공개한 모델은 총 3가지로 각각의 모델은 리스크 유형에 따라 유해성 및 위험성에 대한 효과적 탐지가 가능합니다. ▲사용자의 발화 또는 AI의 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 'Kanana Safeguard' ▲개인 정보나 지식재산권 등  법적 측면에서 주의가 필요한 요청을 탐지하는 'Kanana Safeguard-Siren' ▲AI 서비스를 악용하려는 사용자의 공격을 탐지하는 'Kanana Safeguard-Prompt'이며 모두 허깅페이스(Hugging Face)를 통해 다운로드할 수 있습니다.

 

카카오는 안전한 AI 생태계의 구축에 기여하고자 카나나 세이프가드에 상업적 이용과 수정 및 재배포 등이 자유롭게 가능한 아파치2.0(Apache 2.0) 라이선스를 적용했습니다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정입니다.

 

김경훈 카카오 AI Safety 리더는 "생성형 AI의 등장 이래, 기술의 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획이다"고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

SKT 에이닷, 월간 사용자 1000만 돌파

SKT 에이닷, 월간 사용자 1000만 돌파

2025.10.21 11:04:35

인더뉴스 이종현 기자ㅣSK텔레콤[017670]은 인공지능(AI) 서비스 ‘에이닷’의 월간 활성이용자수(MAU)가 지난달 1000만명을 돌파했다고 21일 밝혔습니다. 이는 지난해 10월 MAU 550만명을 기록한 지 1년 만에 2배 가까이 성장한 것으로, 에이닷 앱·웹 450만과 전화·B tv·티맵 등 타 서비스 내 에이닷 기능 이용자 550만을 합산한 수치입니다. SKT는 이번 성과가 에이닷이 고객들에 편리한 AI 사용 경험을 제공하며, 고객의 일상 전반으로 자연스럽게 확산되며 본격 대중화되고 있음을 보여주는 상징적인 이정표라고 설명했습니다. 또 그동안 추진해온 ‘AI 생태계 확장 전략’의 결실이라며, 에이닷이 해당 전략을 토대로 ‘국내 대표 AI 허브’로 도약하고 있다고 밝혔습니다. ‘AI 생태계 확장 전략’은 고객에게 일상 속에서 끊김 없는 AI 경험을 제공하기 위해, 단일 앱 중심의 서비스를 넘어 에이닷을 매개로 다양한 서비스와 플랫폼을 연결하는 전략입니다. MAU 1000만 돌파를 이끈 에이닷의 AI 생태계 확장에는 내부 서비스 고도화와 외부 플랫폼 적용을 통한 고객 접점 확대가 큰 역할을 했다고 회사 측은 설명했습니다. 올해 6월에는 ‘노트’와 ‘브리핑’ 서비스를 베타 버전으로 출시해 일상 속 활용 폭을 넓혔으며, 실제로 서비스 출시 직후 한 달 만에 에이닷의 실사용자가 100만명 가까이 늘며 고객의 높은 관심을 입증했습니다. 8월에는 ‘4.0 업데이트’를 통해 에이닷에 ‘에이전틱 워크플로우’를 적용했습니다. 이는 AI 에이전트가 사용자의 요청을 그대로 수행하는 것을 넘어, 사용 기록과 대화 맥락을 기반으로 요청을 재해석해 목표를 설정하고 작업을 계획·실행하는 최신 AI 기법입니다. 이를 통해 에이닷은 한층 개인화된 AI 경험을 제공, 업데이트 이후 MAU가 추가로 100만명 가까이 증가하며 가파른 성장세를 이어갔습니다. SKT는 에이닷의 AI 에이전트 기술을 기반으로 에이닷 전화를 지속 고도화했습니다. 2023년 9월 안드로이드 버전의 ‘전화’ 서비스에 통화 녹음·요약 기능을 추가한 데 이어, 같은 해 10월 iOS 버전에도 해당 기능을 추가했고, 2024년 10월에는 ‘T전화’에 에이닷을 결합한 ‘에이닷 전화’를 선보여 이용자들의 호응을 얻었습니다. 이 밖에도 ‘B tv’와 ‘티맵(TMAP)’ 등 고객이 일상적으로 사용하는 플랫폼에 에이닷을 탑재해, AI 서비스에 익숙하지 않은 고객도 자연스럽게 에이닷을 접할 수 있게 했습니다. SKT는 국내외 기업과의 파트너십을 통한 ‘AI 생태계 확장 전략’도 강화하고 있습니다. 지난 9월 글로벌 일정공유 플랫폼기업 ‘타임트리’와 파트너십을 체결했으며, 동명의 일정공유 플랫폼 앱 ‘타임트리(TimeTree)’에 에이닷의 AI 에이전트 기술을 적용하기 위한 협력을 진행하고 있습니다. SKT는 ▲내부 서비스 고도화 ▲외부 플랫폼 적용 ▲파트너사와의 협력 확대를 통해 에이닷을 언제 어디서나 쉽게 활용할 수 있는 ‘온 국민의 AI 서비스’로 발전시킨다는 목표입니다. 김용훈 SKT 에이닷사업부장은 “에이닷이 다양한 접점에서 고객에게 호평받으며 MAU 1000만을 돌파한 것은, 에이닷이 ‘온 국민의 AI 서비스’로 도약하는 전환점”이라며 “고객의 모든 순간에 에이닷이 자연스럽게 녹아들 수 있도록 AI 생태계 확장과 서비스 혁신을 지속하겠다”고 말했습니다.




배너