|
유튜브는 16일 공식 블로그를 통해 “AI의 강력하고 새로운 형식의 스토리텔링은 혼동을 야기할 수 있는 콘텐츠를 생성하는 데에 이용될 가능성이 있다”며 “이러한 우려에 대응하기 위해 앞으로 몇 달에 걸쳐 유튜브 시청자가 합성된 콘텐츠를 시청할 때 이를 알려주는 업데이트를 도입한다”고 밝혔다.
구체적으로 보면 유튜브에서 콘텐츠 업로드에 변형이나 합성된 내용이 포함됐는지 여부를 표시하는 옵션이 추가된다. AI를 이용해 일어나지 않은 사건을 사실적으로 묘사하는 영상이나, 누군가 하지 않은 말이나 행동을 보여주는 콘텐츠가 모두 해당된다.
최근 뜨거운 논란이 되고 있는 전쟁이나 정치 관련 콘텐츠가 모두 포함된다. 실제 미국 선거나 최근 벌어지고 있는 일련의 전쟁과 관련해 AI 변형·생성 영상은 가짜뉴스에 활용되며 엄청난 파급력을 일으키는 것을 심심치 않게 볼 수 있었다.
|
유튜브는 변형·합성 가능성이 있는 콘텐츠에 라벨링으로 이를 표시할 예정이다. 콘텐츠 설명란에서 이를 안내하거나, 동영상 플레이어에 더욱 눈에 띄는 라벨을 적용하는 방식이 적용된다. 혐오감을 불러일으킬 수 있는 변형·콘텐츠의 경우엔 삭제도 가능하다.
AI로 유명 아티스트 목소리를 이용한 음악 커버 영상의 경우도 삭제 요청이 가능해진다. 삭제 여부 결정에는 해당 콘텐츠가 뉴스로 보도되거나 콘텐츠 속 음성이 분석 또는 비평의 대상이 되는지 등 다양한 요소가 고려된다고 유튜브는 설명했다.
유튜브는 “생성형 AI를 활용하면 AI 분류기가 학습하는 정보 세트를 빠르게 확장할 수 있어 규정 위반 콘텐츠를 훨씬 더 신속하게 식별하고 포착할 수 있다”며 “시스템의 속도와 정확성이 개선되면 노출되는 유해 콘텐츠의 양도 줄어든다”고 밝혔다. 그러면서 “새로운 전환점에서 유튜브는 AI 기술이 제공하는 이점과 커뮤니티의 지속적인 안전 보장 사이에서 균형을 맞추기 위해 노력하고 있다”고 덧붙였다.