일부 이용자들의 도를 넘은 성희롱으로 논란이 된 AI '이루다'가 12일 서비스를 중단했다.

SNS를 통해 대화내용이 공개되면서 개발 과정에서 기존 서비스 이용자들의 개인정보를 활용한 것이 아니냐는 의혹도 제기됐다.

이루다와의 대화 과정에서 나타난 소수집단에 대한 혐오·차별적인 반응도 논란이 일었다.

이루다를 개발한 스캐터랩은 사과문을 게시하고 이용자들의 지속적인 문의에 대해 11~13일에 걸쳐 답했다.

스캐터랩 관계자는 "이루다를 개발하는 과정에서 기존 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용했다"며 사실을 인정했다.

그는 "이루다는 핑퐁 데이터베이스를 통해 프리트레이닝 단계를 거쳤고 연애의 과학 텍스트 데이터를 기반으로 학습이 진행됐다"며 "그러나 이 단계에서 발화자의 이름 등의 개인정보는 삭제됐고 AI는 대화 속에 존재하는 맥락과 답변의 상관관계만을 학습하게 된다"고 설명했다.

이어 "이루다는 DB에 수록돼 있는 1억개의 개별적인 문장 중에서 적절한 답변을 선택하기 때문에 내용을 조합해 개인을 특정할 수는 없다"고 해명했다.

이 관계자는 "사전에 동의가 이루어진 범위 내에서 활용했지만 연애의 과학 이용자들과 충분히 소통하지 못한 점에 대해 진심으로 사과드린다"고 말했다.

개인정보보호위원회와 한국인터넷진흥원(KISA)은 연애의 과학 데이터의 정보처리와 관련한 조사를 진행 중이다.

이루다의 차별적인 발언에 대해서는 "루다의 발언에 동의하지 않으며 회사의 생각을 반영하고 있지도 않다"며 "베타테스트 기간 동안 혐오표현에 대해 필터링을 진행했고 기존에 알려진 사례들은 개선을 완료했다"고 해명했다.

"사내 대화방에서 수집된 대화를 직원들끼리 돌려봤다"는 폭로도 이어졌다.

스캐터랩 관계자는 "개인정보 보호는 회사의 중요한 사명이고 접근통제 조치 등이 시행되고 있다"며 "자발적으로 진상조사위원회를 구성해 카톡 등 대화방을 조사하고 있다"고 말했다.

이 관계자는 "조사 결과를 투명하게 공개하고 의혹이 사실로 드러나는 경우에는 관련자들에게 엄중한 책임을 묻고 필요한 조치를 취하겠다"고 밝혔다.

'진저 for 비트윈' 데이터의 사용 의혹에는 사실이 아니라고 해명했다.

스캐터랩은 현재 제기되고 있는 문제점들과 기존에 계획 중이던 개선사항이 완비될 때까지 서비스 운영을 중단할 예정이다. 

김종윤 스캐터랩 대표는 "첫 걸음은 멈췄지만 친구 같은 AI를 만들겠다는 꿈을 멈추고 싶지는 않다"며 "많이 부족하고 시행착오가 많지만 꿈을 이어갈 수 있게 응원을 부탁드린다"고 말했다.

김 대표는 "3주라는 짧은 기간 동안 큰 사랑을 받았다"며 "이용자들에게도 행복한 시간이었기를 바란다"고 전했다. ⓒ 세이프타임즈