틱톡, AI 콘텐츠 안전장치 강화…리터러시 교육·스팸 대응 확대

[이데일리 이소현 기자] 틱톡이 인공지능(AI) 생성 콘텐츠 확산에 대응해 이용자 교육과 콘텐츠 표시 기술, 스팸 대응 체계를 강화한다.

틱톡 로고(사진=틱톡)

틱톡은 AI 생성 콘텐츠(AIGC)를 이용자들이 보다 안전하고 책임감 있게 소비·창작할 수 있도록 AI 리터러시 교육과 투명성 기술, AI 스팸 대응 방안을 확대한다고 14일 밝혔다.

이번 조치는 AI 기술이 일상적인 콘텐츠 제작과 소비 과정에 빠르게 들어오면서 이용자들이 AI 콘텐츠를 올바르게 이해하고 활용할 수 있도록 돕기 위해 마련됐다.

우선 틱톡은 AI 리터러시 교육을 확대한다. 미디어 리터러시 전문기관인 미국 미디어교육전국연합회(NAMLE), 생성형 AI 전문가 헨리 에이더와 협력해 이용자들이 AI 도구와 AI 생성 콘텐츠를 안전하고 책임감 있게 활용할 수 있도록 안내하는 가이드를 공동 제작했다. 이용자가 AI 관련 용어를 검색할 때 AI 생성 콘텐츠를 식별하는 방법을 배울 수 있는 인앱 허브도 선보일 예정이다.

AI 리터러시 강화를 위한 투자도 이어간다. 틱톡은 디지털 안전 연합체 ‘노필터’, 교육 자선단체 ‘라즈베리 파이 재단’ 등 전문기관의 틱톡 콘텐츠 제작을 지원하고 있다. 2025년 11월 출범 이후 해당 프로그램을 통해 제작된 콘텐츠 누적 조회수는 2억회를 기록했다. 틱톡은 지금까지 AI 리터러시 관련 프로그램에 400만달러 이상을 투자했으며, 향후 지원을 지속 확대할 계획이다.

AI 콘텐츠 투명성 기술도 강화한다. 틱톡은 2024년 AI 생성 콘텐츠의 출처 정보를 확인하는 글로벌 표준 기술인 C2PA 콘텐츠 인증 기술을 도입했다. 이번에는 C2PA 운영위원회에 공식 합류해 글로벌 표준 기술 확산에도 참여한다. 틱톡은 C2PA 인증 기술과 크리에이터 라벨링 도구, 보이지 않는 워터마킹 기술 등을 활용해 현재까지 30억건 이상의 영상에 AI 라벨을 적용했다고 설명했다. AI로 생성된 영상에 대한 보이지 않는 워터마킹 적용 범위도 확대하고 있다.

저품질 AI 스팸 콘텐츠에 대한 대응도 고도화한다. 틱톡은 올해 1분기에만 8600만개 이상의 허위 계정을 삭제했다. 앞으로는 정치·시사, 금융, 의료 정보 등 공공의 신뢰와 안전, 보건에 영향을 미칠 수 있는 민감 분야에서 AI 생성 스팸 콘텐츠를 대량 게시하는 계정을 더 효과적으로 식별하고 조치할 수 있도록 탐지 시스템을 개선할 계획이다.

틱톡은 이번 조치가 AI를 창의적으로 활용하는 일반 창작자를 대상으로 하는 것은 아니라고 설명했다. 사람의 실질적 참여 없이 저품질 AI 콘텐츠를 대량 생산하는 계정에 한정된 조치라는 것이다.

AI 기반 창작 도구도 계속 확대한다. 틱톡은 롱폼 영상을 숏폼으로 바꿔주는 ‘스마트 클립’, AI로 콘텐츠 기획안을 발전시키는 ‘AI 아웃라인’ 등 크리에이터용 AI 도구를 개발하고 있다. 이용자가 AI 생성 콘텐츠 노출 수준을 직접 조절할 수 있는 ‘주제 관리’ 기능도 시험 운영 중이다.

톰 C. 바르게세 틱톡 공공정책 AI 리드는 “틱톡은 이용자들이 AI를 경험하는 과정에서 충분한 맥락을 파악하고, 안심하며, 자신의 경험을 직접 관리할 수 있어야 한다고 믿는다”며 “앞으로도 이용자들이 AI 생성 콘텐츠를 구분하고 제작 과정을 이해하며, 관련 도구를 창의적이고 책임감 있게 사용할 수 있도록 기술, 파트너십, 교육 리소스에 지속적으로 투자할 것”이라고 말했다.