정부, 머스크 AI ‘그록’ 정조준…청소년 보호장치 마련 공식 요구

[이데일리 윤정훈 기자]인공지능 챗봇 그록(Grok) 서비스를 전 세계에 제공 중인 엑스(X·옛 트위터)에 대해 한국 정부가 청소년 보호를 위한 안전장치를 마련해 줄 것을 요청했다.

일론 머스크의 X에 올라온 그록으로 자동 생성한 이미지[X 캡처]

방송미디어통신위원회(위원장 김종철)는 14일 최근 성착취물 및 비동의 성적 이미지가 소셜미디어를 통해 전파돼 사회적 우려가 커짐에 따라 엑스의 그록 서비스에 대해 청소년 보호 장치 마련을 요구했다고 밝혔다.

그록 서비스를 통해 이용자의 불법 행위가 촉발되지 않도록 엑스 측에서 안전장치를 마련하고, 유해정보로부터 청소년을 보호하기 위해 청소년 접근제한 및 관리조치 등 보호 계획을 수립해 그 결과를 회신해 줄 것을 통보한 것이다.

현재 엑스는 한국의 정보통신망법에 따라 청소년보호책임자를 지정해 방송미디어통신위원회에 통보하고 있으며, 매년 청소년보호책임자 운영실태 관련 자료를 제출하고 있다.

최근 출시된 그록 서비스에 대해서도 이와 관련한 자료를 요청한 것으로, 특히 방미통위는 엑스 측에 한국에서는 당사자 의사에 반해 성적 허위영상물을 제작·유통·소지·시청하는 행위가 형사처벌 대상이라는 점도 전달했다.

그록은 최근 엑스에서 여성과 아동을 성적 대상으로 한 딥페이크 이미지를 대량 생성되면서 논란을 빚었다. 대부분의 이미지가 당사자 동의 없이 만들어졌으며, 이에 따라 유럽 주요국과 말레이시아, 인도 등은 관련 콘텐츠 단속에 나섰다.

인도네시아와 말레이시아는 그록이 미성년자와 여성을 대상으로 한 불법 콘텐츠 확산을 막을 안전장치가 충분히 마련돼 있지 않다며 일시적으로 접속을 차단했다.

김종철 방미통위원장은 “새롭게 도입되는 신기술이 건전하고 안전하게 발전하는데 도움이 되도록 적극 지원하고자 한다”면서 “이에 따른 부작용과 역기능에 대해서는 합리적 규제를 해 나갈 계획이며 인공지능 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무 부과 등 제도 개선을 추진해 나갈 계획”이라고 말했다.