‘이루다’ 내일 중 서비스 잠정중단…“차별 발언 진심으로 사과”

[이데일리 장영은 기자] 출시 2주 만에 성희롱·혐오발언·개인정보 유출 의혹 등 각종 논란에 휩싸인 인공지능(AI) 챗봇 ‘이루다’가 서비스를 잠정 중단한다.

20세 여성 캐릭터로 설정된 AI 챗봇 이루다. (사진= 이루다 인스타그램)

이루다 개발사인 스타트업 스캐터랩은 11일 공식 입장문을 통해 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.

스캐터랩 관계자는 “내일 중으로 이루다 서비스를 중단하고 개선 기간을 거치기로 했다”며 “루다를 찾는 사용자분들에게도 시간을 드리는 것이 맞다고 생각해 내일 중으로 중단하기로 결정했다”고 말했다.

회사측은 이루다가 이용자들과 대화하는 과정에서 나타난 일부 혐오와 차별 발언에 대해서 사과했다.

스캐터랩측은 “이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다”며 “저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다”고 강조했다.

이루다를 출시하기 전 성희롱 대상이 될 수 있다는 점은 물론 혐오 발언 관련 문제가 생길 수 있다는 점도 감안하고 6개월간의 베타 테스트 기간 동안 대비했으나 충분치 않았다는 설명이다.

스캐터랩은 “기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중”이라고 덧붙였다.



개인정보 유출 의혹에 대해서도 “충분히 소통하지 못했다”며 사과했다. 회사측은 “사전에 동의가 이뤄진 개인정보 취급 방침 범위 내에서 활용했지만, 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감한다”며 “구체적 개인정보는 이미 제거돼있으며 개인을 특정할 수 있는 정보는 유출되지 않았다”고 해명했다.

스캐터랩이 이루다를 개발하는 과정에서 사용자들의 카카오톡 대화 데이터를 무단으로 활용했다는 의혹이 제기된 데 따른 것이다. 스캐터랩의 다른 앱 ‘연애의 과학’ 이용자들은 스캐터랩이 사전에 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 되지 않았다며 집단 소송을 예고하기도 했다.

아울러 회사측은 이루다가 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변과 더 좋은 답변에 대한 판단을 함께 학습하도록 할 것이라고 개선방향을 밝혔다. 스캐터랩은 “AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿는다”며 “누구에게나 친구가 되어줄 수 있는 AI를 만들기 위해 앞으로도 더욱 노력하겠다”고 했다.

한편, 스캐터랩은 이번 사례를 통해 얻은 편향 대화 검출 모델을 모든 사람이 사용할 수 있도록 공개한다는 방침을 밝혔다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 한다는 취지다.