"예측도, 회복도 어려운 AI 위험…인권 영향평가 필요"

(사진=이미지투데이)

[이데일리 김국배 기자] 인공지능(AI)이 인권과 안전에 미치는 영향이 커지면서 위험을 예방하기 위한 방안으로 AI 인권 영향평가 제도 도입이 필요하다는 주장이 나왔다.

유승익 한동대 연구교수는 31일 국가인권위원회 주최로 열린 ‘지능정보사회 정보인권 현황과 쟁점’ 토론회에서 “AI는 대규모 데이터를 집약적으로 사용하고, 지식을 창출해내는 방식이 기존 기술과 전혀 달라 현실적, 잠재적 위험성이 크다”고 말했다.

그러면서 “AI의 위험성은 예측 불가능할 뿐 아니라 현실화했을 때 사업적으로 회복하기 어렵다”면서 “이 때문에 사전이나 사후에 AI 영향 평가가 필요하다”고 했다.

실제로 지난 2020년 영국에서는 코로나 여파로 졸업 시험을 치르지 못한 일부 지역의 고교 졸업반에 AI 시스템으로 학점을 부여했다가 난리가 났다. AI가 공립고 학생들보다 사립고 학생들에게 좋은 학점을 줬기 때문이다. “AI가 가난한 학생을 차별했다”는 말이 나왔다.

유 교수에 따르면, 영국·캐나다·유럽연합 등은 AI의 인권 침해 위험을 완화하기 위해 다양한 영향평가 제도를 제안했거나 도입 중이다. 특히 유엔인권기구, 유럽평의회, 네덜란드, 덴마크 등에서는 AI에 대해 ‘인권 기반 접근법’을 취하며 인권 영향평가를 제안해왔다.

장여경 정보인권연구소 이사도 “유엔 인권최고대표는 AI의 블랙박스(알고리즘의 불투명성) 문제를 극복하기 위해 투명성을 증진해야 한다고 강조했는데 이를 위한 방안의 핵심 요소가 정례적이고 포괄적인 인권 영향평가라 봤다”며 “AI 인권 영향평가는 다른 영향 평가와 상호 보완적으로 실시하는 것도 가능하다”고 지적했다.

그는 “AI 감독에 소극적이거나 무력한 모습을 보여왔던 공공 부문이 최근엔 (AI가) 사람의 안전과 인권에 미치는 위험성에 주목하고 이를 공적으로 해결하기 위한 방안으로 다양한 평가 방법을 제도화하기 위해 노력하고 있다”며 AI 인권 영향평가 기준 마련과 관련해 국가인권위의 역할을 주문했다.