“인공지능 편향성 완화, 민간 자율 우선…감독 기구 필요”

윤성로 4차산업혁명위원회 위원장(자료사진)

[이데일리 이대호 기자] 대통령 직속 4차산업혁명위원회(위원장 윤성로, 4차위)는 30일 4차위 회의실에서 산·학·연 민간 전문가가 참여한 가운데 신뢰할 수 있는 인공지능(AI) 활용 방안을 모색하기 위해 간담회를 개최했다.

이번 간담회는 AI 편향성 등이 사회적 이슈로 제기됨에 따라 법·기술·산업·연구계 등 각 분야 전문가들이 참여해 AI 신뢰성을 저해하는 요소를 점검하고 효과적 대응 방향을 논의하기 위해 마련됐다.

참석자는 서울대 법학전문대학원 고학수 교수, 법무법인 태평양 이상직 변호사, 카이스트(KAIST) 인공지능대학원 최재식 교수, 네이버 이진규 개인정보보호책임자(CPO), 카카오 김대원 이사, 와이즈넛 강용성 대표, 정보통신정책연구원(KISDI) 이호영 본부장, 한국지능정보사회진흥원(NIA) 최인선 팀장이다.

이날 전문가 대부분은 현재 인공지능기술 성장 궤도와 각계 노력을 고려할 때, 우리나라 정책방향은 “이용자의 권리를 보호하되 과도한 부담보다는 자율규제 체계 중심으로 나아갈 필요가 있다”고 제언했다.

주요국 현황도 제시됐다. 현재 유럽연합(EU)에선 다양성, 비차별성, 공정성 등 AI 편향성 체크리스트를 제시하고 이용자가 추천 시스템 알고리즘 매개변수를 선택하고 도출 결과를 볼 수 있도록 가이드라인을 내놨다. 영국에선 데이터윤리혁신센터와 같은 독립기관을 통한 관리강화, 자가진단‧감사‧인증제도 등을 통한 인공지능 의사결정의 신뢰성 제고를 추진 중이다. 미국에선 기업이 AI 편향성 점검과 영향평가를 자체 수행하도록 알고리즘 책임법안을 발의한 상황이다.

현재 AI는 신용평가(대출 등 금융서비스)와 상품추천(온라인 쇼핑몰), 콘텐츠 추천(넷플릭스), 가격결정(아마존), 맞춤형 광고(포털, 온라인플랫폼), 인공지능 면접(채용) 등 다양한 곳에서 활용 중이다.

이상직 변호사와 김대원 이사는 “알고리즘을 직접 제어하는 방식의 접근보다는 기업 스스로의 윤리적‧법적 점검 장치 마련과 자발적 노력, 정부의 양질의 데이터 고도화 정책, 소비자의 건전한 이용 노력이 필요하다”는 의견을 냈다.

△최재식 교수와 최인선 팀장은 인공지능의 투명성 강화를 △강용성 대표는 정부가 충분한 사회적 논의를 통해 관련 가이드라인을 수립‧운영하고 △가이드라인 준수 등에 대해 관리‧감독할 수 있는 독립기구(가칭 인공지능윤리위원회)’ 신설을 제언했다.

△고학수 교수는 ‘공정성 지표(fairness metric)의 체계화’를 △이진규 개인정보보호책임자는 의사결정 알고리즘에 대해 개개 사안별로 관련 관계자들이 모여 문제점 등을 분석하고 합의하는 절차 마련의 필요성을 각각 역설했다.

윤성로 4차위원장은 “4차위는 작년 12월 과기정통부와 협력하여 선제적으로 ‘사람이 중심이 되는 인공지능 윤리기준을 심의·마련했으며 올해는 기업의 자율규제와 함께 기업들이 AI 개발·활용시 점검할 수 있는 체크리스트 개발·보급, 인공지능 윤리교육 등을 추진해나갈 것”이라며 △민간의 자율성에 기반한 자정체계 활성화 △관리감독 역할을 하는 독립기구의 필요성 △자동검증 기술 개발 등이 조화롭게 작동할 필요가 있다고 언급했다.