"챗GPT와 같은 고성능 생성AI가 야기할 문제의 본질은 정밀한 허위정보와 조작정보가 대량으로 생산되고 유통되는 데 있다." 

5월 11일 강남 교보타워에서 열린 '챗GPT와 오정보(misinformation): 헛소문 바로잡기' 세미나에서 미국 워싱턴대학교 정보대학 제빈 웨스트 교수는 "사람이 생성한 것과 구분할 수 없을 정도로 정교한 콘텐츠를 만들어내는 생성AI기술로 인해 지식노동의 생산성이 크게 향상됐지만, 그에 못지 않은 폐해도 크다"며 가장 심각한 문제는 "진짜 같은 콘텐츠를 저렴한 비용으로 대량 생산 및 유포가 가능해졌다는 데 있다"고 지적했다. 

웨스트 교수는 "생성AI의 콘텐츠 생성 능력은 좋게 쓰일 뿐 아니라 악용될 여지가 크다"며 "생성AI가 브랜달리니의 법칙(Brandolini's Law)을 더욱 증폭시킬 것"이라 지적했다. 브랜달리니의 법칙은 헛소리 비대칭의 원리(bullshit asymmetry principle)이라고 하는데, 허위정보를 바로 잡는 데 필요한 자원의 양은 허위정보 생산 비용보다 훨씬 많이 소요된다는 것이다. 

웨스트 교수는 "우리의 정보환경은 이미 잡음으로 가득차 있는데, 생성AI로 악용하는 집단으로 인해 정보환경이 더욱 심한 잡음으로 오염될 수 있다"며 생성AI로 작동하는 가짜계정의 폐해로 2017년 미국에서 발생한 봇을 이용한 여론조작 사건을 소개했다. 미국 정부가 망중립성에 대한 여론을 탐색 중일 때, 주요 게시판 댓글의 대다수가 봇을 이용해 생성한 것들로 밝혀졌던 사건이다. 

웨스트 교수는 이외에도 민주적 담론의 파괴, 콘텐츠 저작자의 권리, 일자리 문제, 유사과학의 확산 등 생성AI로 인해 파생될 다양한 문제에 대하여 발표했다.

이날 세미나 토론자였던 제주대학교 언론홍보학과 안도현 교수는 "인간보다 더 똑똑해진 인공지능이 결국 인간을 노예로 삼거나 인류의 말살을 시도할 것이라는 인공지능 종말론은 우리가 당면한 인공지능 문제의 본질을 흐린다"며 "인공지능의 문제는 사람에 의한 생성AI기술의 오용과 남용에 있다"고 강조했다. 안도현 교수는 "생성AI로 인해 잡음으로 가득차게 될 정보환경에서 메시지 발신자와 내용을 신뢰할 수 있는 장치 마련이 중요하다"고 지적했다. 

이날 발표와 토론은 사전녹화된 영상으로 진행됐으며, 교보생명보험 그룹의 데이터 분석 법인인 디플래닉스(DPlanex)의 후원으로 강남 교보타워 5층 노블리에홀에서 열렸다. 제빈 웨트스 교수는 미국 워싱턴대학교 정보대학의 부교수이며, 각성한 공중을 위한 센터(CIP: Center for Informed Public)의 소장이자 공동 설립자다.

그는 허위 정보 확산 저지와 올바른 정보의 확산을 통한 민주적 담론의 강화에 대한 연구를 수행하고 있다. 국내에 번역된 저서로는 <똑똑하게 생존하기: 거짓과 기만 속에서 살아가는 현대인을 위한 헛소리 까발리기의 기술>이 있다. 

세미나를 주최한 한국R사용자회(https://r2bit.com/)는 디지털불평등과 통계대중화를 위해 R컨소시엄(https://www.r-consortium.org/about)의 후원을 받아 설립한 비영리법인이다. R컨소시엄은 R소프트웨어의 개발, 유지, 배포, 및 사용을 지원하는 국제단체다.