검색창 열기 인더뉴스 부·울·경

News Plus 뉴스+ Industry/Policy 산업/정책

혐오발언·감시에 악용되는 AI...윤리 문제 막을 수 있을까

URL복사

Wednesday, May 15, 2019, 11:05:54

AI 5원칙 맞춰 개발하는 MS..챗봇 테이 이후 경각심 갖게돼
신뢰도 높이는 7원칙 발표한 EU..기본권 기술 핵심으로 정의

인더뉴스 이진솔 기자ㅣ 스마트 스피커 사용이 확산되면서 음성비서 역할을 하는 인공지능(AI)은 이제 일상이다. 시장조사기관 트랜드포스는 올해 스마트 스피커 시장 규모가 9525만 대에 달할 것으로 예상했다. AI기반 얼굴인식·광고 등 인격화되지 않은 AI도 일상화됐다.

 

접촉면이 늘어나는 만큼 새로운 문제가 대두된다. 그 중 AI 윤리와 신뢰도 문제는 우리나라에서도 채팅로봇 ‘심심이’가 혐오발언을 내놓으면서 화두가 된 바 있다. 비슷한 경험을 했던 마이크로소프트를 필두로 한 글로벌 테크 기업과 선진국에서는 관련 논의가 활발하다.

 

◇ 채터봇 ‘테이’ 사건 이후 경각심 갖게된 MS..인간 편익 높이는 방향으로 개발

 

마이크로소프트는 지난 14일 디지털 기술 오남용을 막고 소비자 신뢰를 높이는 노력을 설명했다. 서울 광화문 한국마이크로소프트에서 열린 ‘신뢰할 수 있는 플랫폼 및 환경 구축을 위한 마이크로소프트의 노력과 사례 소개’에서는 데이터·보안·AI와 관련된 신뢰 구축 사례가 공개됐다.

 

마이크로소프트는 지구상 모든 개인과 조직이 더 많이 성취하는 것을 회사가 추구하는 미션으로 삼고 있다고 밝혔다. 사티아 나델라 마이크로소프트 최고경영자(CEO)도 최고 경영진부터 고객들까지 마이크로소프트 제품을 사용하려면 신뢰를 배제할 수 없다고 강조하고 있다.

 

회사가 강조하는 신뢰는 보안(Security)·개인정보(Privacy)·투명성(Transparency)·준법(Compliance)·윤리(Ethics) 등 다섯가지 항목이다. 이중 윤리 측면에서 AI와 관련된 논의가 진행되고 있다.

 

마이크로소프트는 AI에 적용되는 원칙으로 책임·투명성·공정성·신뢰성·개인정보·포용성 등 다섯 가지를 제시한 바 있다. 회사는 지난 2016년 트위터 AI 채터봇 테이(Tay)가 론칭 하루만에 중단된 사건이 AI 원칙을 수립한 계기라고 설명했다.

 

당시 테이는 트위터 상에 있는 편향된 데이터와 혐오 발언을 습득해 출시된 당일 인종차별 발언을 했다. 마이크로소프트는 출시 16시간 만에 운영을 중단하고 공식 사과했다. 이후 AI 개발과정에 AI 윤리위원회 등 자체 규율을 강화하는 방식으로 윤리 문제를 고려하고 있다.

 

정교화 한국마이크로소프트 정책협력 법무실 총괄은 “AI가 일으키는 부정적 영향이 존재하지만, 동시에 인간 편익을 증진시킬 수 있다고 본다”며 “지구 환경 변화나 장애인 접근성에 도움이 되는 프로젝트가 진행되고 있다”고 말했다. 

 

하지만 마이크로소프트가 개발한 AI 기술이 부정한 방향으로 쓰이는 경우도 있다. 미국 이민국에서 마이크로소프트 안면 인식 기술을 활용해 불법 이민을 막으려고 시도한 사건이 대표적이다. 회사는 이민국에 기술 제공을 거부하고 정부에 규제를 촉구했다.

 

최근에는 중국 마이크로소프트 연구소가 중국 후방성 창사에 있는 국방과학기술대학과 AI 기반 얼굴인식 기술 연구에 함께한 사실이 드러나 논란이 됐다. 이 대학은 중국 공산당 중앙 군사 위원회가 통제한다. 중국 정부가 추진하는 시민 감시·검열에 기술이 악용될 여지가 있다.

 

◇ AI 신뢰 높이기 위해 대중이 참여하는 윤리위원회 필요

 

 

지난달 8일 유럽연합(EU) 집행위원회는 신뢰할 수 있는(trustworthy) 인공지능 프로그램을 만들기 위한 7가지 원칙을 발표했다. 상업적 AI에 대한 다국적 지침은 이번이 처음이다.

 

지침을 마련하는데 기업·NGO·학계에서 전문가 52명이 힘을 모았다. 당장 법적 구속력을 갖추는 것은 아니며 내년까지 시범적용을 거치며 보완을 거칠 예정이다.

 

원칙은 ▲인간 주체성 보장 ▲기술적 안정성 ▲개인정보 보호와 데이터 거버넌스 ▲투명성 ▲비차별과 공정성 ▲사회와 환경의 행복 ▲책무 등이다.

 

특히 인간이 가진 기본권을 AI 기술의 핵심으로 정의한다는 점에서 긍정적이라는 평가다. 비차별과 공정성 항목에서는 사회적 소수자의 권리를 보장하려는 노력이 엿보인다.

 

영국 파이낸셜타임즈는 “AI를 최대한 개방하고, 규정을 준수하며, 인간을 기술 개발의 중심에 두는 것이 기술을 윤리적으로 만드는 최선의 방법”이라며 “EU의 지침은 끝이 아니라 새로운 개방적 논의의 시작”이라고 말했다.

 

위원회가 항상 좋은 결론을 내놓지는 않는다. 구글은 지난 3월 AI 윤리 위원회를 설립했지만 구성원 자격 논란에 휘말리면서 일주일만에 해체했다. ‘첨단기술 외부자문회의(Advanced Technology External Advisory Council)’이라는 자문단은 위원 8명으로 꾸려질 예정이었다.

 

하지만 보수주의 싱크탱크 헤리티지 재단(The Heritage Foundation) 케이 콜스 제임스(Kay Coles James) 회장이 선임되면서 문제가 불거졌다. 구글 직원들은 제임스 회장이 취한 보수적인 입장이 동성애자 권리를 긍정하는 다양성 문제에 어긋난다며 해임을 촉구했다.

 

구글은 “지금 환경에서는 위원회가 정상적으로 기능할 수 없음이 명백해 위원회를 폐지하겠다”며 “AI가 제기하는 이슈에 대해서는 계속 책임질 것이고 외부 의견을 얻을 수 있는 다른 방법을 찾을 것”이라고 말했다.

 

AI 윤리위원회 구성에 있어 강조되는 것은 투명성과 이해당사자들의 넓은 참여다. AI는 개발되면 수많은 소비자들에 영향을 주기 때문에 위원회에 기업 담당자 뿐만 아니라 일반 소비자들까지 참여할 수 있어야 한다는 것이다.

 

마찬가지로 기술 개발 과정이 소비자들에게 투명하게 드러나야 한다. 미국 월스트리트 저널은 인공지능 윤리위원회 구성에 있어 ▲이해당사자들이 납득할 수 있는 위원 자격 ▲위원회가 AI 개발에 참여할 수 있는 실질적 권한 부여를 강조했다.

 

이어 ▲투명한 AI 윤리 강령 개발 ▲알고리즘이 해를 끼칠 때 신속히 대응할 수 있는 교정조치 마련 ▲코딩 과정을 추적할 수 있는 감사 실시 ▲다양한 인력 채용 또한 필요하다고 조언했다.

 

☞참고할 만한 기사

“한국 소비자, 디지털 활동 활발...개인정보 처리 신뢰는 낮아”

English(中文·日本語) news is the result of applying Google Translate. <iN THE NEWS> is not responsible for the content of English(中文·日本語) news.

배너

이진솔 기자 jinsol@inthenews.co.kr


‘기업 밸류업’ 가이드라인 공개…‘쪼개기상장’ 시장에 설명 권고

‘기업 밸류업’ 가이드라인 공개…‘쪼개기상장’ 시장에 설명 권고

2024.05.02 16:14:17

인더뉴스 문승현 기자ㅣ금융당국이 '기업 밸류업 프로그램'의 핵심인 '기업가치 제고계획' 수립 원칙과 세부 작성법을 담은 가이드라인을 내놓았습니다. 밸류업 당사자로 새로운 형태의 공시라는 숙제를 받아든 상장기업에 길라잡이를 제시해 이행 초기 혼란을 최소화하고 적극적인 밸류업 프로그램 동참을 독려하기 위한 조처로 받아들여집니다. 하지만 기업이 민감하게 반응하는 '지배구조'를 한국증시 주요 저평가 요인중 하나로 지목하고 개선방안 공시를 권고하면서 일선 기업들의 수용성에 변수로 작용할 것으로 전망됩니다. 금융위원회는 2일 한국거래소·자본시장연구원과 함께 기업 밸류업 지원방안 2차세미나를 열고 '기업가치 제고계획 가이드라인(안)'을 공개했습니다. 이번 가이드라인은 기업가치 제고계획 흐름도를 '기업개요-현황진단-목표설정-계획수립-이행평가-소통'으로 구성했습니다. 먼저 '기업개요'에는 기업가치 제고계획이 그 자체로 기업에 대한 완결성 있는 보고서로 기능할 수 있도록 업종, 주요 제품·서비스, 연혁, 재무상태 등 기본적인 정보를 기재합니다. '현황진단'은 기업의 사업현황에 대해 시장환경·경쟁우위요소·리스크 등을 입체적으로 진단하고 다양한 재무·비재무 지표 중 중장기적인 가치제고 목적에 부합하는 핵심지표를 선정·분석하는 단계입니다. 주요 재무지표는 ▲PBR(주가순자산비율), PER(주가이익비율) 등 시장평가 ▲ROE(자기자본이익률), ROIC(투하자본이익률), COE(주주자본비용), WACC(가중평균자본비용) 등 자본효율성 ▲배당(금액·성향·수익률), 자사주(보유분·신규취득·소각내역), TSR(총주주수익률) 등 주주환원 ▲매출액·영업이익·자산 증가율 등 성장성 ▲자산 포트폴리오(영업·비영업자산), FCF(잉여현금흐름), 부채비율 등 기타로 분류해 다각적인 지표를 예로 제시했습니다. 비재무지표는 지배구조 관련 일반주주 권익제고, 이사회 책임성, 감사 독립성을 위한 여러 요소를 기존 '기업지배구조보고서' 공시항목 및 기관투자자 등 시장참여자가 주목하는 내용을 중심으로 합니다. 가령 상장기업이 성장성 높은 사업부문을 물적분할한 뒤 분할자회사를 상장하는 모자회사 중복상장 이슈가 있다면 기업은 모회사 일반주주 권익을 보호·증진하는 계획을 설명하거나 물적분할 후 분할자회사를 비상장 완전자회사로 유지하는 계획을 밝히는 소통을 할 수 있습니다. 이른바 '쪼개기 상장'은 핵심사업부를 자회사로 쪼개 신규상장하면서 모회사 기업가치를 떨어뜨리고 기존 주주의 지분가치가 훼손된다는 지적이 제기돼 왔습니다. 또 다른 예로 상장기업 지배주주 및 그 특수관계인의 비상장 개인회사 보유 이슈가 있는 경우 상장기업과 비상장 개인회사간 이해상충 우려를 해소하기 위한 정확한 사실관계와 향후 계획을 설명할 수 있습니다. 가이드라인은 감사위원 분리선출을 통한 감사 독립성 강화도 좋은 예시로 기업은 감사위원 분리선출 현황과 향후 계획을 밝힐 수 있다고 설명합니다. '목표설정'에서는 일시적·임시방편적 개선이 아닌 중장기 목표를 제시합니다. 중장기적 사업전략없이 단기적인 주가부양만을 목표로 하는 것은 기업가치 제고계획 취지와 부합하지 않는다고 가이드라인은 분명히 밝히고 있습니다. 계량화된 수치로 명료하게 제시하는 것이 권장되지만 정성적인 서술 또는 구간제시 등 다양한 방법의 목표설정도 가능합니다. '계획수립'에서 기업은 목표달성을 위한 구체적인 계획을 작성하며 사업부문별 투자, R&D확대, 사업 포트폴리오 개편, 자사주 소각·배당 등 주주환원, 비효율적인 자산처분 등 다양한 사업전략적·재무적 계획을 수립할 수 있습니다. 이와 함께 기업은 연 1회 공시 사이에 어떤 노력을 이행했는지 잘된 점과 보완 필요사항을 기재(이행평가)하고 주주·시장참여자 의견이 경영에 반영될 수 있는 공식적인 프로세스를 구축해 쌍방향 '소통'을 확대합니다. 상장사 이사회는 경영진이 기업가치 제고계획을 적절히 수립·이행하는지 감독하고 필요하다면 이사회 보고, 심의 또는 의결을 거치는 등 적극적으로 참여해야 한다고 금융위는 강조합니다. 공시는 연 1회 등 주기적 공시와 외국인투자자를 위한 영문공시 병행이 권장되며 예고공시도 가능합니다. 이번 기업가치 제고계획 가이드라인·해설서 제정안은 최종 의견수렴을 거쳐 이달중으로 확정·발표될 예정입니다. 이후 준비가 되는 기업부터 거래소 상장공시시스템(KIND)을 통해 공시를 시작합니다. 김소영 금융위 부위원장은 이날 축사에서 "기업 밸류업은 긴 호흡으로 추진해야 할 과제이며 기업가치 제고계획 가이드라인은 기업 밸류업 지원방안의 끝이 아니라 시작"이라고 말했습니다. 그러면서 "정부와 유관기관은 밸류업 세제 지원방안 마련·발표, 코리아 밸류업 지수 개발, 연계 상장지수펀드(ETF) 상장, 우수기업 표창 등 과제를 차질없이 추진하며 적극 지원하겠다"고 강조했습니다.


배너


배너