검색창 열기 인더뉴스 부·울·경

ICT 정보통신

“혐오-차별 표현 사용 댓글 철퇴”...카카오, 악성 댓글 AI로 분석한다

URL복사

Wednesday, February 26, 2020, 16:02:34

‘욕설-혐오-차별’ 악성 댓글 신고·제재 정책 강화..건강한 온라인 커뮤니케이션 생태계 조성

 

인더뉴스 권지영 기자ㅣ카카오(공동대표 여민수, 조수용)가 뉴스 서비스의 악성 댓글에 대한 제재 정책을 강화합니다. 플랫폼 기업의 사회적 책임을 다하기 위한 또 하나의 조치인데요.

 

26일 카카오에 따르면 포털 다음(Daum)과 카카오톡 #탭의 뉴스 댓글 서비스 및 운영 정책을 개편합니다. 뉴스 댓글 서비스에 대한 이용자의 자발적인 참여와 선한 영향력을 바탕으로 건강한 커뮤니케이션 생태계를 만들어 가기 위한 결정입니다.

 

우선 악성 댓글 신고 및 제재 정책을 한층 강화합니다. 현재 카카오는 업계 최초로 2017년 7월부터 AI를 통해 모든 댓글의 욕설 및 비속어를 필터링하는 ‘욕설 음표 치환 기능’을 적용하고 있습니다.

 

이번 개편에서는 욕설·비속어뿐 아니라 ‘차별·혐오’에 대한 신고 항목을 신설했습니다. 욕설이나 비속어를 쓰지 않더라도 타인에게 불쾌감을 주거나 개인의 인격과 명예를 침해할 수 있다는 점을 감안한 조치입니다.

 

이용자가 신고한 악성 댓글이 문제가 있다고 확인되면 해당 댓글을 삭제할 뿐 아니라 작성자에 대한 제재도 진행해 악성 댓글 작성을 원천적으로 예방합니다. 신고한 댓글이 삭제되면 그 결과를 알려주는 ‘신고 알림’ 기능도 도입했습니다.

 

댓글 서비스에 대한 이용자 권리 보호를 위한 기능도 도입했습니다. 우선, 댓글 영역 자체의 노출을 관리할 수 있는 ‘접기’ 기능이 생겼는데요. 댓글 영역 상단의 ON·OFF 버튼에서 OFF를 선택하면 댓글 영역 전체가 사라지며, 다시 ON을 누르면 댓글을 확인할 수 있습니다.

 

또 보고 싶지 않은 댓글이나 해당 댓글 작성자를 앞으로 나에게 보이지 않게 하는 ‘덮어두기’ 기능도 생깁니다. 이용자가 많이 덮어둔 댓글과 사용자에 대한 데이터는 AI로 분석해 지속적인 댓글 서비스 개선에 활용합니다.

 

카카오 여민수-조수용 공동대표는 “이번 개편은 다수 이용자들의 선한 의지와 영향력이 서비스에 반영될 수 있게 해 커뮤니케이션 생태계를 이용자들이 직접 만들어 갈 수 있게 한 것” 이라며 “이용자의 권리와 인격을 보호하고 사회적 책임을 다하기 위해 약속드린 조치들을 지속적으로 실행해 나가고 있다”고 말했습니다.

 

카카오는 지난해 10월 플랫폼 기업으로서의 사회적 책임을 다하기 위한 서비스 개편을 약속하고 이를 지속적으로 지켜 나가고 있습니다. 개인의 인격과 명예, 사생활을 보호하기 위해 연예 뉴스 댓글을 폐지한 데 이어 12월에는 인물 관련 검색어 및 서제스트 개편과 함께 실시간 이슈 검색어 서비스 종료를 발표하고, 지난 20일에 이를 이행했습니다.

 

카카오는 최신 트렌드를 확인할 수 있는 새로운 서비스를 연내 선보일 예정이며, 이용자 개개인의 취향과 니즈를 반영한 콘텐츠 구독 서비스를 준비하고 있습니다.

 

혐오·폭력성 콘텐츠에 대한 자율규제 기준과 이행 방안에 대한 논의도 시작합니다. 외부 전문가 및 이용자들과의 지속적인 소통을 바탕으로 플랫폼 자율 규제에 대한 정책을 고도화해 나갈 계획입니다.

 

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

권지영 기자 eileenkwon@inthenews.co.kr

배너

이재명 정부, 100조 투자 초대 ‘AI 수석’ 네이버 출신 하정우 선임

이재명 정부, 100조 투자 초대 ‘AI 수석’ 네이버 출신 하정우 선임

2025.06.16 11:18:05

인더뉴스 이종현 기자ㅣ대통령실 AI미래기획수석에 하정우(48) 네이버클라우드 AI이노베이션 센터장이 선임되었습니다. 16일 대통령실에 따르면, AI수석은 이재명 대통령의 AI 100조원 투자 등 AI 공약을 실현하기 위해 이재명 정부가 신설한 직책입니다. 선임된 하 수석은 대통령실 수석급 참모 가운데 최연소 인사입니다. 강훈식 대통령 비서실장은 지난 15일 오후 브리핑을 통해 "하 수석은 AI의 주권을 강조한 소버린 AI를 앞장서 제안하고 이끄는 인사이자 국가가 기업을 지원하고 기업은 성과를 공유하는 AI 선순환 성장전략을 강조한 AI 전문가"라며 "네이버 AI혁신센터장으로서의 현장경험이 국가 AI 정책으로 구현될 것으로 기대한다"라고 선임 배경에 대해 밝혔습니다. 현직 네이버 Future AI 센터장이자 사단법인 '바른과학기술사회실현을 위한 국민연합' 공동대표인 하 수석은 2015년 네이버랩스에 입사해 AI 연구를 시작했습니다. 이후 2017년부터 3년간 네이버 클로바 AI 리서치 리더를 맡았으며 2020년 10월부터 네이버 AI랩 연구소장을 맡아 AI 중장기 선행기술 연구를 총괄한 바 있습니다. 하 수석은 글로벌 AI 시장에서 '소버린(주권) AI'를 강조하며 한국만의 AI 모델·인재 등 역량을 확보해야 한다고 강조해 왔습니다. 이를 바탕으로 한국어 특화 초거대 언어모델 '하이퍼클로바X' 개발에 앞장섰으며 이런 그의 기조가 이재명 정부의 AI 정책 방향성과 맞았을 것이라는 분석도 나오고 있습니다. 하 수석은 윤석열 전 대통령 직속 디지털플랫폼정부위원회에서 2년간 활동하기도 했으며 서울대, 한국과학기술원(KAIST) 등 산학 교류를 통한 AI 인재 교육에도 앞장서 업계에서는 AI 전문가로서 자격이 충분하다는 평가를 받고 있습니다.


배너


배너