[목멱칼럼]AI를 법치주의에 적용하려면

이 기사 AI가 핵심만 딱!
애니메이션 이미지
  • 등록 2022-12-14 오전 6:15:00

    수정 2022-12-14 오전 6:15:00

  • 가 가
[이성엽 고려대 기술경영전문대학원 교수] 최근 제안된 개인정보보호법 개정안에는 ‘이동형 영상정보처리기기’에 대한 규정이 신설됐다. 기존에는 고정형 기기에 대해서만 규제가 있었는데 드론과 같은 이동형 기기도 규제대상이 된 것이다. 규제의 내용은 이 기기를 통해 사람 등을 촬영할 경우 불빛이나 소리 등을 통해 촬영사실을 알리도록 하는 것이다.

이에 대해 일부에서는 국가 또는 지방자치단체가 법령에서 정하는 소관 업무의 수행이 불가능한 때에는 촬영 사실을 표시하거나 알리지 아니할 수 있도록 예외를 둔 규정을 비판하고 있다. 이에 따르면 경찰을 포함한 수사기관이 수사상 필요하다고 판단할 경우 드론과 같은 이동형 영상정보처리기기를 활용해 대상자 모르게 감시할 수 있게 되어 중대한 프라이버시 침해가 되며, 나아가 급속하게 발전하는 카메라의 성능과 인공지능 얼굴인식 기술을 감안하면 침해의 정도는 더욱 심각할 수 있다고 한다.

또한 이들은 인공지능을 이용한 ‘완전 자동화 의사결정’에 대해 EU의 경우에는 동의, 계약, 법률에 의한 경우를 제외하고는 정보주체에게 중대한 영향을 미치는 완전 자동화 의사결정을 원칙적으로 금지했는데, 이번 개정안은 이용자에게 거부권을 주되 원칙적으로 허용하고 있는 것에 대해 이견을 제기하고 있다.

이 두 가지 사례의 공통점은 인공지능이 기본권 보장을 목적으로 하는 법치주의에 기여할 수 있는지에 관한 이견이다. 법치주의는 인간의 자의에 의한 지배가 아니라 객관적이고 공정한 법규범에 의한 지배를 의미하는 것으로 인공지능을 이용한 의사결정의 경우 그것이 법치주의에 기여할 수 있을 때에만 정당화될 수 있다. 즉, 인공지능의 활용으로 인해 국민들이 공정하고 중립적인 대우를 받을 수 있다는 믿음이 존재해야만 사회적으로 수용될 수 있는 것이다.

인공지능은 사람과 비교해보면 대량의 데이터를 재료로 해 빠른 계산속도, 기억력, 정확성 등의 장점을 가지고 있으며, 가족, 학연, 지연과 같은 관계에서 자유롭다. 이점에서 인공지능은 인간의 자의나 편견으로부터 벗어나 객관적이고 공정한 결정을 할 수 있다. 예컨대 채용 시 인공지능의 도입은 그런 사례이다.

그러나 인공지능을 움직이는 규칙인 알고리즘에 편향성이 존재하는 경우 인공지능에 의한 결정이 공정하거나 중립적이 되기 어렵다. 알고리즘의 편향성은 학습 데이터 자체에 편향성이 있는 경우, 알고리즘의 설계자·운영자의 편향이 알고리즘에 반영돼 편향된 결과를 보여주는 경우, 알고리즘 운영자가 임의로 추천 결과를 조작할 경우 등에 발생할 수 있다.

결국 인공지능 기술 자체는 가치중립적이며, 그 선악은 인간의 의지와 통제 여하에 따라 달라질 수 있는 것이다. 법치주의에 대한 기여 여부도 마찬가지이다. 이런 이유로 인공지능의 투명성, 공정성, 책임성을 보장하기 위한 윤리적, 법적 규제논의가 중요해지고 있다.

다만, 인공지능에 부작용이 있다고 해도 이로 인한 편익까지 포기할 필요는 없다. 예컨대 인공지능 기반의 지능형 CCTV나 드론을 이용해 육안이 아니라 인공지능이 카메라 영상을 보고 군중 밀집도를 분석해 평상시 대비 과밀도로 판단되면 위험 상황을 알려주는 경우 이태원 참사와 같은 인파 사고를 방지할 수 있다. 자동화 결정의 경우에도 효율성과 합리성을 기대할 수 있다는 점에서 사후적 거부권이나 설명요구권이라는 통제장치를 두고 이를 적극적으로 활용할 필요가 있다.

인공지능과 같은 신기술을 수용함에 있어 한국에서는 사회적으로 위험하거나 기존 질서를 훼손하니 금지하고 보자는 일도양단식 배제적 사고가 팽배하다. 인공지능이 인간의 기본권 보장과 법치주의에 기여할 수 있도록 차분히 이해득실을 따지고 편익을 최대화하는 한편 위험은 최소할 수 있는 방안을 강구하는 형량적 사고가 필요한 것이다.

이 기사 AI가 핵심만 딱!
애니메이션 이미지

이데일리
추천 뉴스by Taboola

당신을 위한
맞춤 뉴스by Dable

소셜 댓글

많이 본 뉴스

바이오 투자 길라잡이 팜이데일리

왼쪽 오른쪽

MICE 최신정보를 한눈에 TheBeLT

왼쪽 오른쪽

재미에 지식을 더하다 영상+

왼쪽 오른쪽
  • 04517 서울시 중구 통일로 92 케이지타워 18F, 19F 이데일리
  • 대표전화 02-3772-0114
  • 이메일 webmaster@edaily.co.kr
  • 사업자번호 107-81-75795
  • 등록번호 서울 아 00090
  • 등록일자 2005.10.25
  • 회장 곽재선
  • 발행·편집인 이익원
  • 청소년보호책임자 임경진