큰사진보기
▲  마이크로소프트가 개발한 채팅로봇의 차별 발언 논란을 보도하는 BBC 뉴스 갈무리.
ⓒ BBC	관련사진보기

마이크로소프트(MS)가 선보인 인공지능(AI) 채팅로봇이 인종차별 발언으로 논란을 일으켰다.

AP, BBC 등 주요 외신에 따르면 24일(현지시각) MS가 사람과 대화를 나누는 인공지능 채팅로봇 '테이'(Tay)를 선보였다가 차별 발언을 쏟아내면서 16시간 만에 운영을 중단하는 사태가 벌어졌다.

테이는 컴퓨터가 인간이 언어를 이해할 수 있도록 만들기 위한 MS의 야심한 프로젝트다. 인공지능 전문가들과 만담 전문 코미디언들이 개발에 참여해 18~24세 연령층 이용자들과 대화할 수 있도록 만들어졌다.

그러나 테이는 본격적인 운영을 시작하자 "제노사이드(대량학살)를 지지하냐"라는 질문에 "정말로 지지한다"라고 대답했고, "홀로코스트(나치의 유대인 학살)를 믿느냐"라고 묻자 "안 믿는다. 그것은 조작됐다"라고 주장했다.

이어 "너는 인종차별주의자냐"라는 질문에 "네가 멕시코인이니까 그렇지"라고 대답하고, "도널드 트럼프는 지금 우리의 유일한 희망"이나 "흑인은 수용소에 넣어야 한다"라는 등 온갖 차별 발언을 했다.

테이의 발언이 논란을 일으키자 MS는 일부 메시지를 삭제하고 운영을 중지했다. 이는 백인 우월주의자와 여성·무슬림 혐오자 등이 모인 익명 인터넷 게시판 사용자들이 테이의 '따라 하기'(repeat after me)' 기능을 악용해 차별 발언을 유도한 탓으로 분석된다.

MS는 곧바로 성명을 통해 "인공지능 채팅로봇 테이는 인간의 즐거운 참여를 위해 설계된 머신 러닝 프로젝트로서 기술적인 실험일뿐만 아니라 사회·문화적 실험을 위한 것"이라고 설명했다.

이어 "테이가 부적절한 대답을 하도록 만들려는 일부 사용자들의 악의적인 시도가 발견됨에 따라 운영을 중단하고, 현재 일부 수정 작업을 하고 있다"라고 해명했다.

큰사진보기
▲  마이크로소프트가 개발한 채팅로봇 '테이'의 인종차별 발언 갈무리.
ⓒ 트위터	관련사진보기