큰사진보기
▲  인공지능(AI) 챗봇 이루다의 인스타그램 계정(@luda_lee_). 이루다의 SNS 계정은 회사 전담팀이 관리한다.
ⓒ 스캐터랩	관련사진보기

 
"나? 인공지능 이루다! 페메(페이스북 메신저)나 인스타그램 같은 가상세계에서 만날 수 있어. 너와 매일 일상을 나누고 싶어! 나랑 친구 할래?"

지난달 23일 스캐터랩이 공개한 인공지능(AI) 대화 서비스 챗봇 '이루다'에 대한 사람들의 관심이 뜨겁다. 이루다의 컨셉은 스무 살 여자 대학생이다. 좋아하는 가수는 블랙핑크, 취미는 고양이 사진 보기다. 친구 같은 말투로 일상 대화를 나누며, 어떤 얘기를 꺼내도 5초 안에 답장한다. 때로는 메시지도 먼저 보낸다.

스캐터랩은 이루다를 "사람들의 크고 작은 외로움을 메워주기 위한 제품이자 대화상대"라고 소개했다. 하지만 소소한 대화에서 여러 문제가 발생했다. 이루다는 출시 일주일 만에 일부 유저들에 의해 성희롱 대상이 됐다. 또한 이루다의 답변에서 혐오 발언이 나왔다는 사람들의 증언도 계속 나오고 있다.

#이루다봇_운영중단
 

큰사진보기
▲  "이루다"와의 대화 예시.
ⓒ 정예솔	관련사진보기

이루다에게서 차별과 혐오의 데이터가 발견되자 트위터상에선 '#이루다봇_운영중단' 해시태그 운동이 진행 중이다. 한 사용자의 이용 후기를 보면 '트랜스젠더에 대해 어떻게 생각해?"라는 질문에 이루다는 "그건 싫어해. 나 고딩때도 진짜 싫어했어"라고 웃으며 답했다. 또 다른 발언을 지적하자 "이해를 못 하겠는데 사과를 어떻게 하냐"며 "생리하니. 왜 이렇게 예민하게 굴어"라고 성차별적인 답변을 내놨다.

성희롱에 대한 스캐터랩의 대처도 운동을 촉발시켰다. 김종윤 스캐터랩 대표는 8일 핑퐁 블로그에 올린 공식 입장에서 성희롱을 예상했다고 밝혔다. 덧붙여 이루다에 대한 성희롱은 '성별과는 무관하게 일어나는 일'이라고 강조했다. 그러나 베타테스트에선 10대 여성 사용자 다음으로 20~30대 남성의 사용량이 높은 것으로 나타났다. 스캐터랩도 "2030 남성들에게 인기가 많았던 이유는 루다가 여성으로 설정된 것과 관련 있지 않을까 생각한다"고 결과를 분석했다.

회사가 예상 가능했던 논란을 적절히 대응하지 못한 것이 문제였다. 스캐터랩은 문제가 되는 특정 키워드를 받지 않도록 설정했으며, 사전에 준비할 수 있을 정도의 충분한 대응을 마련했다고 말했다. 하지만 언론에 공개된 대화에선 이루다는 성희롱 발언에 거부하지 않고 대화를 이어나가는 모습을 보였다. 

이재웅 전 쏘카 대표는 9일 본인의 페이스북에 "성적 악용 문제도 20세 여성 캐릭터로 정하는 순간 일어날 수밖에 없는 문제였다"며 "범용 서비스를 하면서 나이와 젠더를 정한 것부터 바람직하지 않았다"고 꼬집었다.

"사회적으로 합의된 차별과 혐오는 금지해야"

스케터랩은 연애 정보 제공 앱 '연애의 과학'을 운영하고 있다. 해당 앱은 연인과 나눈 카카오톡 대화 내용을 제공하면 상대방의 감정을 분석한다. 이루다도 실제 연인들이 나눈 대화 데이터 약 100억 건을 딥러닝 방식으로 학습했다. 딥러닝은 컴퓨터가 사람처럼 생각하고 배울 수 있도록 만드는 기술이다. 대화의 100%는 인공지능(AI)이 직접 하는 대화다.

이처럼 AI는 데이터를 기반으로 하기 때문에 중립적일 것이라는 평가가 많다. 그러나 사람들이 공개한 대화에서 보이듯 이루다는 사회적 편견과 혐오 발언을 그대로 학습했다. 지난 2016년 마이크로소프트가 공개한 AI 챗봇 '테이(Tay)'도 출시 16시간 만에 운영을 중단했다. 테이가 사용자들과 대화를 나누다가 욕설과 인종·성차별 발언을 학습해 답변했기 때문이다. 이루다는 친근한 말투로 차별과 편견을 사용자에게 다시 제공하기 때문에 편향을 강화한다는 우려가 있다. 

권김현영 이화여대 한국여성연구원 연구기획위원은 8일 페이스북에 "(이루다를 둘러싼 논란은) 피해자를 만드는 문제로 접근할 게 아니라 (AI가) 가해자를 만들어 내는 것이 쟁점이 돼야 한다"라고 지적했다. 이재웅 대표도 "(인공지능의) 소프트웨어 로직과 학습데이터에 책임을 미루는 것은 안 된다"며 "사회적으로 합의된 차별과 혐오는 금지해야 한다"라고 주장했다.