AI 시대 중요한 건 ‘투명성’..방통위, ‘이용자 중심 원칙’ 발표

[이데일리 김현아 기자]인공지능(AI) 스피커를 이용해 음악을 켜고 조명을 끄는 편리함을 즐기면서도 내 프라이버시를 지키는 방법은 없을까.

올해 국정감사에서 박선숙 의원(바른미래당)의 문제제기로 이슈가 된, AI시대 이용자 권리 보호 문제에 대해 방송통신위원회(위원장 한상혁)와 정보통신정책연구원(원장 김대희)이 ‘이용자 중심의 지능정보사회 실현을 위한 원칙’을 발표하며 대안 모색에 나섰다.

방통위는 이 원칙을 만들면서 구글코리아, 페이스북코리아, 넷플릭스, 카카오, 삼성전자, KT, SKT, LGU+, 한국 IBM, 한국 마이크로소프트, 솔트룩스, 인텔코리아, BSA Korea 등 업계 및 학계 등의 전문가 의견을 폭넓게 수렴했다.

투명성과 프라이버시 원칙 주목

발표된 원칙에는 ▲사람중심의서비스제공(인간의 존엄성 보호)▲투명성과 설명가능성(이용자 기본권 피해 유발시 기업은 예측, 추천, 결정의 기초로 사용한 주요요인을 설명할 수 있어야 한다)▲책임성(관련 법령과 계약 준수)▲안전성 ▲차별금지(사회적·경제적 불공평이나 격차 최소화 노력)▲참여(이용자 의견 통로 조성)▲프라이버시와 데이터거버넌스(개인정보 및 프라이버시 보호와 지속적인 의견 교환) 등이 담겼다.

눈에 띄는 점은 투명성과 설명가능성, 프라이버시와 데이터거버넌스다.

복잡한 기술로 포장된 AI 서비스를 기업들은 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 작성해야 하며, 이용자 기본권에 피해를 유발했을 때 예측, 추천, 결정의 기초로 사용한 주요요인을 설명할 수 있어야 한다는 의미다.

AI스피커 개인정보보호 앞장선 카카오와 네이버

실제로 이번 국감에서 AI의 개인정보 침해 우려가 제기되자, 카카오는 카카오미니에 프라이버시 메뉴를 추가하고 ①음성 데이터 저장 여부를 이용자가 선택하는 기능과 ②이용자가 삭제 요청 시 지금까지 저장된 데이터를 모두 삭제하는 기능을 도입했다.

네이버 역시 옵트아웃기능을 9월 6일 도입했고, 기본적으로 계정과 연동을 끊는방식으로 비식별처리후 1%에 한해 전사작업을 하고 있다. 전사작업도 음성명령 단위로 쪼개서 배분하여 개별작업자가 전체를 볼수 없도록하는 조치를 취하고 있다. 이처럼 문제없게 조치된 데이터도 2년마다 삭제가 이뤄진다. .

▲2017년 10월 23일 카카오 한남 오피스에서 본 카카오미니 스피커

▲카카오 프라이버시 메뉴의 데이터 삭제 기능

한상혁, AI 시대 이용자보호 정책센터 운영하겠다

방통위는 이용자·기업·전문가·국제사회 등 지능정보사회 구성원들의 의견을 상시로 수렴하는 민관협의회를 구성하고, AI기술 발전에 따라 원칙을 지속적으로 보완할 계획이다.

올해 12월 “AI for Trust”를 주제로 국제컨퍼런스를 개최해 해당 원칙을 소개하고 이용자 보호방향에 대한 국제적 공감대를 형성해나가는 자리를 마련한다.

한상혁 방통위원장은 최근 취임 첫 기자간담회에서 “지능정보사회의 신기술은 미래 먹거리라는 얘기까지 있지만 역기능으로서 이용자 문제가 필연적으로 뒤따른다”면서 “이용자 보호 원칙 마련을 위한 컨트롤 타워로 ‘지능정보사회 이용자보호 정책센터’ 설치해 내년에 운영할 계획”이라고 말했다.

한편 이번 AI 이용자 중심 원칙 자문에는 구글코리아 이재현 본부장, 페이스북코리아 허욱 대외정책총괄 상무, 넷플릭스 연주환 정책총괄 매니저, 카카오 김대원 이사, 삼성전자 박유영 변호사, KT 박정석 PM, SK텔레콤 박명순 상무, LGU+ 김주영 팀장, 한국 IBM 이성웅 상무, 한국 마이크로소프트 이태희 상무, 솔트룩스 이경일 대표, 인텔코리아 조진호 전무, BSA Korea 김근 대표, 가천대 법학과 최경진 교수, 한양대 철학과 이상욱 교수, KAIST 인공지능연구소 이수영 소장, 건국대 미디어커뮤니케이션학과 황용석 교수, 건국대 법학전문대학원 이상용 교수, 순천향대 정보보호학과 염흥렬 교수 등이 참여했다.

이용자 중심의 지능정보사회를 위한 원칙

□ 사람 중심의 서비스 제공 원칙

지능정보서비스의 제공과 이용은 사람을 중심으로 그 기본적 자유와 권리를 보장하고 인간의 존엄성을 보호할 수 있는 방향으로 이루어져야 한다.

지능정보사회의 구성원들은 각자의 자율성을 최대한 보장받으면서, 안전하고, 투명하며, 모든 사람이 고루 혜택을 누릴 수 있는 서비스가 이루어지는 환경을 조성하도록 노력한다.

□ 투명성과 설명가능성 원칙

지능정보서비스에 포함된 서비스 체계와 작동방식이 이용자에게 중대한 영향을 끼칠 경우, 기업의 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 작성한다.

지능정보서비스가 인간의 신체, 자유, 재산 및 기타 기본권에 피해를 유발하였을 때, 기술적으로 가능한 범위에서 이용자에게 예측, 추천 및 결정의 기초로 사용한 시스템상의 주요 요인을 설명할 수 있어야 한다.

□ 책임성 원칙

지능정보사회의 구성원들은 지능정보서비스의 올바른 기능과 사람 중심 가치의 보장을 위한 공동의 책임을 인식하고, 관련한 법령과 계약을 준수한다.

서비스의 제공과 이용으로 인해 발생한 타인의 권익 침해에 대한 법적·사회적·윤리적 책임을 다할 수 있도록, 지능정보사회 구성원들은 지속적인 의견 교환에 참여한다.

□ 안전성 원칙

안전하고 신뢰 가능한 지능정보서비스의 개발과 이용을 위해 지능정보사회 참여자 모두가 노력한다.

지능정보서비스가 초래할 수 있는 피해에 대한 복구 방안을 사전에 확보하기 위한 노력으로서, 제공자와 이용자는 상호 협의 하에 그에 대한 자율적인 대비 체계를 수립하고 운영한다.

□ 차별 금지 원칙

지능정보사회의 구성원들은 지능정보서비스가 사회적․경제적 불공평이나 격차를 초래할 수 있다는 점을 인식하고, 기술 사용에 있어 사회적 다양성을 고려한다.

알고리즘 설계, 데이터의 수집과 입력 및 알고리즘 실행 등 개발과 사용의 모든 단계에서 차별적 요소를 최소화할 수 있도록 노력한다.

□ 참여 원칙

지능정보사회의 구성원들은 공적인 이용자 정책 과정에 차별 없이 참여할 수 있다.

공적 주체는 지능정보서비스의 이용과 관련하여 제공자와 이용자가 실질적으로 의견을 제시할 수 있는 정기적인 통로를 조성하여야 한다.

□ 프라이버시와 데이터 거버넌스

지능정보사회 구성원들은 서비스의 개발, 공급 및 이용의 전 과정에서 개인정보 및 프라이버시를 보호하며, 특히 지능정보서비스의 제공과 이용 과정에서 데이터 사용이 프라이버시에 미치는 부정적인 영향을 최소화하도록 노력한다.

지능정보사회 구성원들은 데이터의 활용을 통한 기술적 이익의 향유와 프라이버시 보호 사이의 균형을 위해, 지속적인 의견 교환에 참여한다.