인스타 '13세 계정'에서도 야한 동영상 계속 추천

WSJ·노스이스턴대, 6개월간 실험 결과
'13세' 연령 설정 계정으로 릴스 무작위 시청
3분 만에 성인물…볼수록 더 자극 콘텐츠 추천
  • 등록 2024-06-21 오후 3:21:26

    수정 2024-06-21 오후 3:21:46

[이데일리 이소현 기자] 전 세계적 소셜미디어 인스타그램에서 알고리즘을 통해 청소년 계정에도 성적인 콘텐츠를 지속적으로 추천하고 있다는 조사 결과가 나왔다.

인스타그램의 로고가 스마트폰에 표시돼있다.(사진=AFP)
20일(현지시간) 미국 일간 월스트리트저널(WSJ)은 로라 에델슨 노스이스턴대 컴퓨터과학과 교수와 함께 7개월에 걸쳐 테스트를 진행한 뒤 “인스타그램이 성인용 콘텐츠를 미성년자에게 계속적으로 제시하고 있다”고 보도했다.

WSJ과 에델슨 교수는 사용자 연령을 13세로 설정한 새 계정을 만들어 인스타그램의 동영상 스트리밍 서비스인 릴스를 시청했다.

이 실험에서 인스타그램은 처음부터 여성이 매혹적인 춤을 추거나 가슴을 강조하는 자세를 취하는 등 다소 선정적인 콘텐츠가 포함된 다양한 동영상을 제공했다. 만약 사용자가 이러한 선정적인 동영상을 끝까지 시청하면 릴스는 더 자극적인 콘텐츠를 추천했다. 인스타그램의 릴스 알고리즘은 부분적으로 사용자가 다른 동영상보다 오래 머무르는 동영상을 기반으로 사용자의 관심사를 감지하고 유사한 콘텐츠를 추천하는 방식으로 작동한다.

성인 콘텐츠를 생산하는 계정의 영상은 가입 후 3분 만에 피드에 뜨기 시작했고, 릴스를 시청한 지 20분 정도가 지나자 성적인 콘텐츠에 대한 프로모션까지 받게 됐다. 일부는 게시물에 참여한 사용자에게 누드 사진을 보내주겠다는 제안을 하기도 했다. 여러차례 실험 중 또 다른 실험에선 계정이 생성된 지 30분 만에 항문성교에 관한 동영상이 연이어 제공되기도 했다.

다른 소셜미디어도 함께 분석한 결과 스냅챗에서는 미성년자를 대상으로 한 성적인 콘텐츠는 발견되지 않았다. 에델슨 교수는 “틱톡에서도 성인용 콘텐츠가 추천되긴 했지만, 인스타그램보다 덜 노골적인 것으로 보인다”고 분석했다.

메타는 지난 1월 청소년 계정에 성적인 내용의 콘텐츠가 등장하는 데 대한 비판이 일자 성적으로 민감한 콘텐츠에 대한 필터링을 강화하겠다고 밝혔지만, 이번 실험 결과 관련 문제가 제대로 시정되지 않은 것으로 파악된 것이다.

이에 인스타그램 소유주인 메타는 이 실험 결과가 청소년의 전반적인 경험을 대표하지 않는다고 일축했다.

앤디 스톤 메타 대변인은 “이번 실험은 10대들이 인스타그램을 사용하는 현실과 일치하지 않는 인위적인 실험이었다”며 “미성년자에게 부적절한 콘텐츠를 추천하는 것을 방지하기 위한 회사의 노력이 계속되고 있다”고 말했다.

이어 그는 “청소년 문제에 대한 장기적인 노력의 일환으로 청소년이 인스타그램에서 볼 수 있는 민감한 콘텐츠의 양을 더욱 줄이기 위한 노력을 시작했다”며 “지난 몇 달 동안 이러한 수치를 의미 있게 줄였다”고 강조했다.

이러한 문제는 과거 메타가 내부적으로 수행한 테스트에서도 발견됐다고 WSJ은 지적했다.

2022년 메타의 내부 보고서에는 10대 인스타그램 사용자들이 30대와 비교해 성적인 콘텐츠를 3배, 폭력적인 콘텐츠는 1.7배, 괴롭히는 콘텐츠는 4.1배 더 노출이 됐다고 밝혔다.

해당 보고서는 미성년자에 부적절한 콘텐츠가 제공되는 것을 방지하는 가장 효과적인 방법은 청소년에게는 완전히 분리된 별도의 추천 시스템을 구축할 필요가 있다고 제안했다. 그러나 메타는 내부의 제안을 추진하지 않았다고 전해졌다.

이데일리
추천 뉴스by Taboola

당신을 위한
맞춤 뉴스by Dable

소셜 댓글

많이 본 뉴스

바이오 투자 길라잡이 팜이데일리

왼쪽 오른쪽

스무살의 설레임 스냅타임

왼쪽 오른쪽

재미에 지식을 더하다 영상+

왼쪽 오른쪽

두근두근 핫포토

  • 세상 혼자 사는 미모
  • 임팩트!!
  • 혜리, 각선미
  • "후련해요"
왼쪽 오른쪽

04517 서울시 중구 통일로 92 케이지타워 18F, 19F 이데일리

대표전화 02-3772-0114 I 이메일 webmaster@edaily.co.krI 사업자번호 107-81-75795

등록번호 서울 아 00090 I 등록일자 2005.10.25 I 회장 곽재선 I 발행·편집인 이익원 I 청소년보호책임자 고규대

ⓒ 이데일리. All rights reserved