AI 윤리원칙 자율규범으로 맡겨야…"신고제 도입되면 개발 위축"

권세화 한국인터넷기업협회 정책실장이 18일 열린 `인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안` 입법 공청회에서 `인공지능 육성을 위한 신중한 접근`이라는 주제로 말하고 있다.(사진=온라인 화면 캡처)

[이데일리 이후섭 기자] 인공지능(AI) 산업을 육성하고 신뢰를 조성하기 위한 법안이 추진되고 있지만 산업계와 법조계, 정부 모두 과도한 규제로 인해 오히려 산업 발전을 막을 수 있다는 우려를 나타냈다. 윤리원칙은 자율규범으로 맡겨야 하며, 사전신고제나 민간자율위원회를 설치해 정부로부터 인증을 받도록 하는 것은 중소기업, 스타트업에 새로운 진입장벽으로 작용할 여지가 있다.

자율위원회 설치하고 인증제 도입…“정부 지나친 간섭”

정필모 더불어민주당 의원은 18일 `인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안` 입법 공청회를 온라인으로 진행했다. 이날 공청회에서 제기된 각계 전문가와 일반 국민들의 의견을 국회에 제출해 법률안 심의 과정에 활용할 예정이다.

해당 법안은 AI 산업 기반 조성을 위해 과기정통부에 기술기준과 표준화를 마련하도록 했다. 인공지능 전문인력에 국가 예산을 투입할 근거도 규정했다. 또 기업들이 윤리원칙 준수를 위해 자체적으로 `민간자율인공지능윤리위원회`를 설치하도록 하고 과기정통부가 위원회 구성과 운영에 대해 평가, 인증하는 제도를 도입했다.

△보건의료 △필수 공공재 △범죄수사 △원자력 △민사결정 △국가활용 △포털 △기타 등 8개 분야를 특수활용 AI로 정의하고, 해당 사업자는 사전고지와 설명의무가 부과된다. 또 특수활용 AI 분야에서 개발·제조·유통서비스를 제공하는 사업자는 과기정통부에 신고해야 하고, 이를 어길 경우 폐업/정지명령, 과징금/과태료 등을 처분하는 내용이 담겼다.

자율규범으로 남겨둬야 할 부분인 윤리원칙에 대한 부분을 법으로 강제하는 것에 대한 우려가 크다. 특히 자율위원회와 인증제를 도입함으로써 정부의 지나친 간섭을 야기할 수 있다.

신용우 법무법인 지평 변호사는 “섣부르고 과도한 규제는 아직 초기단계라고 할 수 있는 산업을 위축시킬 수 있기에 주요국 및 국제기구에서도 강제성이 없는 윤리 가이드라인을 먼저 만들고 사업자와 이용자의 자율규제를 권고하고 있다”며 “자율위원회의 운영과 역할에 있어 실효성 확보를 위해 구체적인 지침이 필요하며, 인증제가 기업 등에 불필요한 규제로 작용하지 않도록 주의할 필요가 있다”고 경계했다.

김경만 과기정통부 인공지능기반정책과장도 “현재 카카오, 네이버 등 주요 IT기업을 중심으로 자발적인 자정 노력이 진행되고 있는 상황에서 별도로 재량 행위를 규율하는 조문이 필요한지 모르겠다”며 “중소·벤처기업들이 자율위원회를 구성하고 자체적으로 검증할 수 있는 능력이 있을지 의문이 든다. 가이드북 등으로 참조할 수 있게 도와주는 정책이 더 좋다고 생각한다”고 말했다.

설명요구권·특수활용 AI 신고제 도입…“새 진입장벽 된다”

권세화 한국인터넷기업협회 정책실장은 법안의 기본원칙 중 한 조항인 `인공지능은 인간이 살아가는 자연적·사회적 환경을 훼손하여서는 아니 된다`는 문구에 대해서부터 의문을 표했다.

권 실장은 “`인간이 살아가는` 범위가 어디까지인지, `자연적 환경을 훼손한다`는 범위가 구체적으로 어떤 것이지 수범자가 예측하기 어렵다”며 “자율규범이 아닌 강행규범은 수범자의 이행 가능성을 필수적으로 고려했으면 한다. 기본원칙이 단순 선언의 의미가 아니라 강행규범으로 받아들여질까 걱정스럽다”고 말했다.

특수활용 AI 정의가 너무 포괄적이기에 범위를 좀 더 상세화할 필요가 있다는 지적이 이어졌으며, 사전규제가 산업계를 위축시킬 것으로 내다봤다.

권 실장은 “사전신고를 하지 않으면 강력한 처벌을 받게 되는데, 이로 인해 인공지능 개발의 유입을 감소시킬 수 있다. 소규모 개발사의 경우 기술적·관리적 요건을 과연 갖출 수 있을지, 진입장벽으로 작용할 염려가 있다”며 “AI 개발은 우연과 불확실성이 많이 개입될 수 있는 부분이 있는데, 개발단계부터 사전규제를 하는 것이 악영향을 미칠 수 있다”고 우려했다.

김경만 과장도 “특수활용 AI 분류의 필요성 취지에는 공감하나, 이를 법에 담는다는 것은 정부의 직접적인 규제의 대상이 될 수 있으므로 규제로 인한 손익과 실익에 대한 면밀한 검토가 필요하다”며 “설명 요구권을 도입할 때 과연 어디까지 설명해야 하는지, 지금 기술수준 추가적인 부담이 없는지 등에 대한 논의가 필요하다”고 지적했다. 인증제, 신고제 등 일부 조문에 대해서는 면밀한 검토와 함께 사회적 합의가 필요해 보인다는 판단이다.

“AI 관련 법안 남발…전문성 있는 부처 하나가 끌고 가야”

AI 관련 법안이 중구난방으로 발의되고 있는 상황에 대한 지적도 나왔다. 정부 부처 간에도 AI 육성 관련 서로 다른 스탠스를 보이고 있어 현장에서는 혼란이 가중되고 있다. 부처가 관할권 다툼으로 기업들만 고래 싸움에 새우 등 터질까 우려가 커진다.

권 실장은 “지난 5월 방송통신위원에서 인공지능 기반 추천서비스 이용자 보호를 위한 기본원칙안을 공개했는데, 디지털 미디어 콘텐츠 추천에 있어 누구에게나 똑같은 결과를 제출하라는 내용과 마찬가지였다. 과연 사업자가 할 수 있는 일인지 의문스럽다”며 “지금까지 AI 관련 발의된 법안들이 산자부, 방통위, 중소벤처부 등 너무 남발되는 측면이 있다. 전문성이 있는 한 부처가 산업을 육성하고 이끌고 가는 것이 무엇보다 중요하다”고 강조했다.