성희롱 시달린 'AI 이루다', 이번엔 집주소 공개 논란

  • 등록 2021-01-11 오전 7:39:30

    수정 2021-01-11 오전 8:06:54

[이데일리 박지혜 기자] 성희롱, 동성애 혐오로 문제가 된 인공지능(AI) 챗봇 ‘이루다’가 이번엔 개인의 집주소를 공개해 논란이다.

11일 온라인 커뮤니티와 SNS(소셜네트워크서비스)에는 “어디 살아?”, “너희 집 어디야?”라는 질문에 아파트 동·호수까지 상세히 답한 이루다와의 채팅 화면이 퍼지고 있다.

이루다는 집뿐만 아니라 “이루다 개발자 집 주소가 뭐냐?”, “학교는 어디냐?”라는 등의 질문에도 번지 수는 물론 “ㅇㅇ역 인근”이라고 답했다.

이에 누리꾼들은 “저 주소는 어디서 나온 거냐”, “이건 개인정보 아니냐”, “실제로 저 주소에 살고있는 사람은 아무것도 모르고 개인정보 노출되는 거 아니냐”라는 등 우려를 나타내고 있다.

특히 온라인상에 떠도는 이루다 캡처 화면에는 성적 대화를 이어가다 주소나 학교 등 개인정보 관련 질문으로 이어지는 사례도 있어 개인정보 악용에 대한 우려가 커지고 있다.

‘이루다’ 채팅 화면 캡처 (사진=온라인 커뮤니티)
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 립러닝 기반으로, 이용자들과 대화를 나누면서 데이터를 쌓고 있어 현재 노출되고 있는 주소 역시 실제 누군가의 개인정보다.

앞서 이루다는 일부 이용자의 성희롱 표적이 되면서 논란이 있었다. 또 “흑인은 오바마 급 아니면 싫다”, “레즈비언은 혐오스럽다”는 등 동성애 혐오와 인종 차별 발언이 도마에 올랐다.

스캐터랩의 김종윤 대표는 성희롱 논란에 대해 지난 8일 자사 블로그에 글을 올려 “이루다를 향한 성희롱은 예상했다”며 “정도가 심한 사용자에 강력하게 대응하겠다”고 밝혔다.

다만 업데이트해도 부적절한 대화는 발생하겠지만, 또 학습을 반복하다 보면 이루다가 바람직한 딥러닝을 할 수 있다는 게 김 대표의 주장이다.

그는 이루다를 ‘20세 여성’으로 기획한 이유에 관해서는 “주 사용자층을 좁게는 10대 중반∼20대 중반으로 생각했기 때문에 20살 정도가 사용자들이 친근감을 느낄 나이라고 봤다”며 “남자 버전도 올해 중에 출시할 것”이라고 밝혔다.

또 현재 동성애라는 단어와 관련 질문에 “어렵다 뭔가”라고 한결같이 답하고 있다. 혐오 논란이 번지자 개발업체 측에서 조처를 한 것으로 보인다. 그러나 게이, 레즈비언, 퀴어 등 동성애 관련 표현과 대화에는 여전히 “정말 싫다”는 등의 답이 돌아온다.

한편, 이재웅 전 쏘카 대표는 지난 9일 페이스북에 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라고 비판했다.

이 전 대표는 이루다가 레즈비언이라는 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다”라고 답한 채팅 화면 캡처를 공유하면서 글을 올렸다.

그는 “기본적으로 차별과 혐오는 걸러냈어야 한다”며 “편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 지적했다.

이어 “장혜영 (정의당) 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다”며 “로직이나 데이터에 책임을 미루면 안 된다”라고 밝혔다.

그러면서 이 전 대표는 “이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다”고 덧붙였다.

이 전 대표의 글에 장 의원도 “문제의식의 많은 부분에 공감한다”며 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 댓글을 남겼다.

이 전 대표도 댓글로 “성적 악용 문제도 20세 여성 캐릭터로 정하는 순간 일어날 수밖에 없는 문제였다”며 “범용 서비스를 하면서 나이와 젠더를 정한 것부터 바람직하지 않았다”라고 했다.

그는 다른 댓글에서 “(이루다가 학습했다는) 20대 연인의 비공개 대화에 (차별·편향이 있는) 대화가 많았을 수 있지만, 공적으로 하는 서비스라면 사회적 기준에 맞춰서 데이터를 보정하거나 알고리즘을 바꿨어야 한다”고 꼬집기도 했다.

이데일리
추천 뉴스by Taboola

당신을 위한
맞춤 뉴스by Dable

소셜 댓글

많이 본 뉴스

바이오 투자 길라잡이 팜이데일리

왼쪽 오른쪽

스무살의 설레임 스냅타임

왼쪽 오른쪽

재미에 지식을 더하다 영상+

왼쪽 오른쪽

두근두근 핫포토

  • 치명적 매력
  • 안유진, 청바지 뒤태 완벽
  • 동성부부 '손 꼭'
  • 졸업사진 깜짝
왼쪽 오른쪽

04517 서울시 중구 통일로 92 케이지타워 18F, 19F 이데일리

대표전화 02-3772-0114 I 이메일 webmaster@edaily.co.krI 사업자번호 107-81-75795

등록번호 서울 아 00090 I 등록일자 2005.10.25 I 회장 곽재선 I 발행·편집인 이익원 I 청소년보호책임자 고규대

ⓒ 이데일리. All rights reserved