[AI기본법 인사이트]④AI 활용 시 지켜야 할 의무들

[정세진 법무법인 율촌 변호사] 앞선 칼럼에서 살펴본 것처럼 인공지능기본법은 모든 인공지능을 규제 대상으로 삼지 않는다. 개인의 권리나 사회적 기회에 중대한 영향을 미칠 수 있는 고영향 인공지능, 텍스트·이미지·영상 등을 만들어내는 생성형 인공지능, 그리고 일정 수준 이상의 연산 능력을 갖춘 고성능 인공지능에 한해 구체적인 의무를 부여한다. 그렇다면 이러한 인공지능이 실제 생활 속에서 활용될 때 이용자는 무엇을 알 수 있고, 어떤 변화를 체감하게 될까?

정세진 법무법인 율촌 변호사. (사진=본인 제공)

인공지능기본법이 부여하는 직접적인 의무 중 가장 먼저 눈여겨볼 것은 고영향 인공지능에 해당하는지 여부를 사전에 확인해야 할 의무다. 이 의무는 특정 분야에만 적용되는 것이 아니라 인공지능을 도입하는 모든 기업에 공통적으로 적용된다. 인공지능이 적용된 새로운 시스템을 활용하기 전에 해당 인공지능이 고영향 인공지능에 해당하는지를 먼저 검토해야 한다는 의미다.

일반인이 가장 직접적으로 체감하게 될 변화는 투명성 확보 의무다. 인공지능기본법은 기업이 고영향 인공지능이나 생성형 인공지능을 활용한 서비스를 제공하는 경우, 해당 서비스가 인공지능에 기반해 운용된다는 사실을 사전에 이용자에게 알리도록 하고 있다. 이를 통해 이용자는 자신이 사용하는 서비스가 사람의 판단이 아니라 인공지능에 의해 작동하고 있다는 점을 알 수 있게 된다.

예를 들어 기업이 생성형 인공지능 기반 음성 대화 서비스를 제공하는 경우, 이용자는 서비스 가입 단계에서부터 해당 서비스가 인공지능을 기반으로 운영된다는 사실을 안내받아야 한다. 상담을 제공하는 상대가 실제 사람이 아니라 인공지능이라는 점을 인지한 상태에서 서비스를 이용할 수 있어야 하는 것이다.

생성형 인공지능을 활용한 서비스의 경우에는 한 단계 더 나아간 의무가 부여된다. 인공지능기본법은 생성형 인공지능 서비스가 제공하는 결과물에 대해 그 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 표시하도록 규정하고 있다. 예컨대 온라인 플랫폼에서 제공되는 영상이나 이미지 콘텐츠가 생성형 인공지능을 통해 제작된 경우, 이용자는 해당 영상이나 이미지가 생성형 인공지능에 의해 만들어졌다는 점을 알 수 있어야 한다.

특히 실제와 구분하기 어려운 음성·이미지·영상이 제공되는 경우에는 보다 명확한 고지가 요구된다. 인공지능을 활용해 특정 인물의 얼굴이나 음성을 모방한 영상, 이른바 딥페이크 콘텐츠를 제공하는 경우, 제공자는 이용자가 해당 영상이 인공지능에 의해 생성되었다는 사실을 분명하게 인식할 수 있도록 표시해야 한다.

이처럼 투명성 확보 의무는 인공지능의 기술적 구조를 공개하라는 요구가 아니다. 이용자가 언제, 어떤 상황에서 인공지능과 마주하고 있는지를 알 수 있도록 하려는 최소한의 기준이다. 이는 인공지능이 만들어낸 결과를 무비판적으로 받아들이는 것을 막고, 이용자가 스스로 판단할 수 있는 전제를 마련해 준다는 점에서 중요한 의미를 가진다.

이 밖에도 인공지능기본법은 고영향 인공지능을 중심으로 위험 관리와 안전성·신뢰성 확보를 위한 조치를 요구하고 있으며, 여기에는 데이터 관리와 품질 확보 노력, 이용자 보호 방안 마련 등도 포함된다. 이러한 의무들은 기술 발전을 가로막기 위한 장벽이라기보다는 인공지능이 사회 전반에 미치는 영향을 관리 가능한 범위 안에 두기 위한 장치에 가깝다. 다시 말해 인공지능을 쓰지 말라는 것이 아니라 일정한 기준 아래에서 책임 있게 사용하라는 요구다.

오는 1월 22일부터 인공지능기본법이 시행된다. 이제 인공지능은 더 이상 알 수 없는 기술이 아니라, 어떤 기준과 책임 아래 사용되고 있는지를 묻고 설명을 요구할 수 있는 기술로 다뤄지게 된다. 인공지능기본법은 인공지능의 성능이 얼마나 뛰어난지 묻기보다 그것을 어떤 영역에서 어떤 방식으로 활용하고 있는지를 살핀다. 따라서 이 법은 인공지능 활용의 속도를 늦추기 위한 규제가 아니라 신뢰 가능한 방식으로 활용하기 위한 최소한의 기준을 제시하는 법이라고 할 수 있다.

■정세진 변호사 △고려대학교 전기전자전파공학 졸업 △한국과학기술원(KAIST) 전기 및 전자공학 석사 졸업 △성균관대학교 법학전문대학원 석사 졸업 △고려대학교 정보보호대학원 박사과정 수료△前김앤장 법률사무소 변호사 △現 법무법인 율촌 변호사 △과학기술정보통신부 고문변호사 △개인정보보호위원회 고문변호사 △금융감독원 금융감독자문위원회 자문위원(디지털/IT분과)△사단법인 벤쳐기업협회 자문위원 △한국핀테크지원센터 혁신금융 전문위원 △한국금융연수원 겸임교수 △성균관대학교 법학전문대학원 겸임교수