검색창 열기 인더뉴스 부·울·경

ICT 정보통신

카카오, AI 안전성 검증 위한 가드레일 모델 ‘카나나 세이프가드’ 공개

URL복사

Tuesday, May 27, 2025, 14:05:18

생성형 AI 안전성, 신뢰성 검증 가능
총 3종 모델 오픈소스로 공개

 

인더뉴스 이종현 기자ㅣ카카오[035720]는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 'Kanana Safeguard(카나나 세이프가드)'를 개발하고 국내 기업 최초로 총 3종의 모델을 오픈소스로 공개한다고 27일 밝혔습니다.

 

최근 다양한 생성형 AI 서비스들이 확산되는 가운데 유해 콘텐츠의 위험성에 대한 사회적 우려가 증대됨에 따라 카카오는 기술적·제도적 장치인 AI 가드레일 시스템 마련에 대한 필요성을 인식하고 'Kanana Safeguard' 모델을 개발하게 됐다고 설명했습니다.

 

카나나 세이프가드는 카카오가 자체 개발한 언어모델 '카나나'를 기반 기술로 활용했으며 한국어 및 한국 문화를 반영한 자체 구축 데이터셋을 활용해 한국어에 특화된 성능을 보유하고 있습니다. AI 모델의 정밀도와 재현율을 평가하는 수치인 F1 스코어(F1-Score)를 기준으로 평가한 결과, 한국어 성능에서 글로벌 모델 이상의 성과를 기록했습니다.

 

이번에 오픈소스로 공개한 모델은 총 3가지로 각각의 모델은 리스크 유형에 따라 유해성 및 위험성에 대한 효과적 탐지가 가능합니다. ▲사용자의 발화 또는 AI의 답변에서 증오, 괴롭힘, 성적 콘텐츠 등에 대한 유해성을 탐지하는 'Kanana Safeguard' ▲개인 정보나 지식재산권 등  법적 측면에서 주의가 필요한 요청을 탐지하는 'Kanana Safeguard-Siren' ▲AI 서비스를 악용하려는 사용자의 공격을 탐지하는 'Kanana Safeguard-Prompt'이며 모두 허깅페이스(Hugging Face)를 통해 다운로드할 수 있습니다.

 

카카오는 안전한 AI 생태계의 구축에 기여하고자 카나나 세이프가드에 상업적 이용과 수정 및 재배포 등이 자유롭게 가능한 아파치2.0(Apache 2.0) 라이선스를 적용했습니다. 향후 지속적인 업데이트를 통해 모델을 고도화할 예정입니다.

 

김경훈 카카오 AI Safety 리더는 "생성형 AI의 등장 이래, 기술의 발전과 더불어 AI 윤리와 안전성에 대한 중요성이 국내외에서 점차 부각되고 있다"며 "책임감 있는 AI 구축에 대한 인식을 널리 확산시키고 사회적 가치를 고려한 기술 개발이 이어질 수 있도록 선제적인 대응을 이어갈 계획이다"고 말했습니다.

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이종현 기자 flopig2001@inthenews.co.kr

배너

네이버·컬리 뭉쳤다, ‘컬리N마트’ 출범…프리미엄 장보기 새벽배송

네이버·컬리 뭉쳤다, ‘컬리N마트’ 출범…프리미엄 장보기 새벽배송

2025.09.05 00:08:00

인더뉴스 이종현 기자ㅣ네이버[035420]와 컬리가 네이버플러스 스토어에서 온라인 프리미엄 장보기 서비스인 '컬리N마트'를 새롭게 출시했다고 5일 밝혔습니다. 앞으로 네이버플러스 스토어 사용자는 컬리N마트에서 네이버 스마트스토어와 컬리에서 판매하는 신선식품과 생필품을 배송 시간에 관계없이 새벽배송을 통해 받을 수 있습니다. 지난 4일에 서비스를 시작한 '컬리N마트'에서는 네이버와 컬리에서 각각 사용자들의 구매빈도와 선호도가 높은 장보기 상품을 엄선해 판매합니다. 컬리의 프리미엄 및 PB 상품과 신선식품 및 생필품은 물론, 기존의 장보기 플랫폼에서는 찾아보기 어려웠던 '유혜광 돈까스', '송쭈집' 등 네이버 스마트스토어의 인기 상품을 컬리N마트에서 함께 구매할 수 있도록 순차적으로 입점을 확대할 예정입니다. 컬리 샛별배송도 동일하게 운영됩니다. 사용자가 컬리N마트를 통해 오후 11시 이전에 상품을 주문하면 컬리와 동일한 콜드체인 기반 새벽배송망을 통해 다음날 아침에 빠르고 안정적으로 받을 수 있습니다. 네이버플러스 멤버십 사용자는 추가 과금 없이 컬리N마트에서 2만원 이상 구매 시 무료로 상품을 배송받을 수 있습니다. 매일 자주 상품을 구매하는 장보기 특성을 반영해, 신선한 상품을 필요할 때마다 구매할 수 있도록 배송비 부담을 낮췄습니다. 여기에 컬리N마트에서 처음 구매하는 사용자에게는 3000원 쿠폰을 제공합니다. 네이버와 컬리는 컬리N마트가 독보적이고 차별화된 장보기 상품 셀렉션을 갖출 수 있도록 역량 있는 브랜드 및 장보기 특화 상품을 지속적으로 발굴하고 질 좋은 상품을 합리적인 가격대로 구매할 수 있도록 여러 프로모션을 전개합니다. 오는 15일부터 컬리 인기 PB상품인 무항생제 특란을 100원에 구매할 수 있는 '100원딜' 프로모션을 비롯해 '컬리온리'의 인기 제품인 '애플하우스 즉석떡볶이', '마마리 나주식 한우곰탕' 등도 50% 할인된 가격에 선보입니다. 또한, 휴지, 물티슈 같이 장보기 단골 생필품도 반값 특가로 판매할 예정입니다. 여기에 브랜드와의 3자 협력을 통해 컬리N마트에서만 구매할 수 있는 단독 특가 및 상품 구성을 지속 개발할 예정입니다. 양사는 컬리N마트 뿐 아니라 풀필먼트와도 협럭합니다. 지난 1일에 컬리의 물류 자회사 '컬리넥스트마일'이 네이버 풀필먼트 얼라이언스(NFA)에 합류하면서 네이버 스마트스토어 상품의 새벽배송 경쟁력을 강화합니다. 최수연 네이버 대표이사는 "네이버의 검색, 개인화 추천기술 및 대규모 마케팅 효과와 컬리가 보유한 상품 소싱, 장보기 특화 큐레이션, 배송 역량 등 양 사가 보유한 경쟁력이 결합해 새로운 장보기 경험을 줄 수 있을 것으로 기대한다"라며 "'컬리N마트'를 시작으로 양 사가 물류, 사업, 마케팅 등 다양한 방면에서 협력을 고도화해 사용자들에게 더욱 차별화된 경험을 제공할 수 있도록 노력하겠다"라고 말했습니다.




배너