생성형AI가 소비자에게 제공하는 결과물은 정보일까 광고일까?

[이데일리 김현아 기자]

한국소비자연맹(회장 강정화)은 지난 15일 생성형AI 일상화에 따른 기술과 환경변화에 대해 소비자관점에서 규율방안을 마련하기 위해 국회의원 박성중 의원실, 한국데이터법정책학회와 공동으로 <생성형 AI와 소비자 보호 이슈 및 과제> 토론회를 개최했다. 사진=한국소비자연맹

생성형AI가 채팅봇을 통해 소비자에게 제공해주는 상품에 대한 결과물은 정보일까, 광고일까, 아니면 정보이기도 하고 광고이기도 할까.

지난해 11월 오픈AI가 챗GPT를 내놓으면서 인공지능(AI)모델에서도 랭킹(판별)이 아닌 추천이 중요해지고 있다. 랭킹 모델에서 이슈가 됐던 특정업체 몰아주기 여부에 대한 이슈가 이제는 추천 모델의 소비자 보호 문제로 확대되고 있는 것이다.

지난 15일 한국소비자연맹은 박성중 의원실·한국데이터법정책학회와 공동으로 ‘생성형AI와 소비자 보호 이슈 및 과제’를 주제로 토론회를 열었다. 이렇게 소비자 관점에서의 이슈를 생성형AI와 연결해 토론하기는 처음이다.

토론회에서 최경진 교수(가천대학교 법학과)가 ‘생성형 AI 시대의 소비자 이슈와 바람직한 규제 방안’에 대해 발제하고, 허승진 변호사(법무법인 율촌)가 ‘생성형 AI 발전에 대응하는 소비자 보호 법제의 쟁점과 개선 방안’을 주제로 강연했다.

최경진 교수는 생성형 AI 시대의 소비자 보호 관련 주요 이슈로 생성형 AI가 생성한 콘텐츠의 지적재산권과 데이터 신뢰성을 지적하며, 데이터 생산과정에서의 저작권 침해와 함께 생성형 AI 결과물의 소유권과 소비자 기여를 어떻게 평가할 것인지, 그리고 개인화된 정보를 어떻게 다룰 것인지 등 다양한 논의가 필요하다고 설명했다.

그는 “데이터, 알고리즘, 플랫폼 등의 현행 규제를 검토하고, 법적 규제와 자율 규제 간 균형을 유지하고 소비자의 신뢰를 고려하는 것이 필요하다”고 강조했다.

허승진 변호사는 생성형 AI로 인한 다양한 문제와 이를 해결하기 위한 규제 예시를 소개하며, 특히 AI가 생성하는 가짜 뉴스, 음란물, 혐오 및 차별적 언어의 유통 방지를 강조했다. 허 변호사는 “알고리즘 결함으로 인한 소비자 피해 보상의 어려움을 해결하기 위해 제조물책임법처럼 입증책임을 변경하는 것이 필요하다”고 강조했다.

강정화 한국소비자연맹 회장은 “그동안 생성형 AI 관련 소비자 관점의 논의가 부족해, 이 토론회를 통해 소비자를 위한 생성형 AI 대응을 준비해야 한다”고 개회사에서 강조했다.

국민의힘 박성중 의원은 “세계적인 흐름에 맞춰 생성형 AI의 발전 속도에 부응하는 안정적이고 효과적인 규제 마련이 필요하다”고 말했다.

이성엽 한국테이터법정책학회 회장은 “소비자 관점에서 생성형 AI 관련 논의가 진행되었다는 점에서 이 토론회의 중요성을 강조하며 향후 계속된 논의가 필요하다”고 강조했다.