▲ 2월 16일, 구글,메타,X,틱톡 등 20개의 빅테크 기업은 2024년 선거에서 인공지능의 기만적 사용을 방지하기 위한 기술 협약’(Tech Accord to Combat Deceptive Use of AI in 2024 Elections)을 공동으로 발표했다 ⓒ rawpixel
2024년은 전 세계 70여개국에서 40억명의 사람들이 투표에 참여하는 선거의 해다. 유례없는 대규모 정치참여의 해를 맞아 국제사회에서는 '기술정의를 위한 국제연합(Coalition for Tech Justice)'이 출범했다.
기술정의를 위한 국제연합(아래 기술정의연합)은 민주적 선거를 위한 빅테크의 역할에 주목하면서, 구글이나 메타, X, 틱톡과 같은 빅테크가 전 세계의 선거와 사람들을 보호하는 계획을 수립하도록 요구하는 '2024 Year of Democracy' 캠페인을 추진하고 있다. 선거 시기에는 소셜미디어를 통한 공론장이 어느 때보다 활성화되는 만큼, 세계 각국에서 표현의 자유가 보장되고 소수자에 대한 차별 및 혐오가 확산되지 않는 온라인 정보 환경이 제공되어야 한다는 것이 이 운동의 취지다.
해당 연합과 캠페인은 국제적인 서명운동 단체 아바즈(Avaaz), 인권감시기구 휴먼 라이츠 워치(Human Rights Watch), 반착취·반빈곤 운동 단체 글로벌 위트니스(Global Witness)을 포함해 전 세계 60개 이상의 기관 및 전문가들이 모여 1년이 넘는 협의, 행사 및 토론을 거쳐 기획되었다. 이들은 구체적으로 빅테크 기업들에 아래 10가지 내용을 포함한 행동계획을 수립할 것을 요구하고 있다.
1. 국제적인 인권과 선거 기준을 주요한 우선순위로 두고, 기존 및 새로운 정책과 집행 체계가 기준에 부합하는지 평가할 것
2. 독립적인 외부 당사자가 수행하는 인권영향평가를 도입하고, 선거의 이해당사자들이 평가결과를 반영해 더 잘 준비할 수 있도록 할 것
3. 피해의 위험에 대응할 수 있도록 완전한 자원을 할당하고, 투자 규모와 언어/방언별 직원 및 계약자 수를 공개할 것. 전 세계적으로 공평하게 안전한 온라인 플랫폼에 대한 접근을 보장할 수 있도록 기업은 이 기간 동안 자신의 활동을 표준화된 보고 형식으로 기록하고, 연구원, 규제 기관, 시민 사회 및 기타 행위자가 기업의 행동과 영향을 완전히 투명하게 모니터링할 수 있도록 할 것
4. 미국 선거 등 현재까지 빅테크들이 선거의 신뢰와 안전에 가장 많은 투자를 한 시장에서 이미 검증된 도구와 조치를 포함하여, 전 세계 시장에서 모든 가능한 도구와 조치를 제공할 것. 또한 어디에 무엇이 구현되었는지, 각국에 왜 다르게 적용되는지 이유를 제시할 것
5. 선거 후에 폭력이나 악의적인 비민주적 행동이 쉽게 일어나지 않도록, 선거 몇 달 전부터 투표 후 몇 주에서 몇 달 뒤까지 선거 과정의 각 단계에서 조치를 시행할 것
6. 현지 상황과 전문 지식을 기반으로 하고 이를 구현할 것. 영어 이외의 열악한 알고리즘 성능을 보완하기 위해 현지 직원과 다양한 이해관계자를 참여 시킬 것
7. 사실 확인(팩트체크) 기관, 독립 언론, 시민 사회 및 선거 공정성을 보호하는 기타 기관과의 파트너십을 강화하고, 확대하고, 자원을 확보할 것
8. 정부 및 정치적 압력에서 독립적일 것. 법이 허용하는 경우 정부와의 모든 접촉과 언론 및 감시 요구를 억제하라는 모든 정부 요청을 게시할 것
9. 적절한 감독과 투명성을 확립할 것. 플랫폼에서의 활동을 모니터링하기 위해 연구원, 시민 사회, 독립 언론 등의 데이터 접근 및 교육을 제공할 것. (Meta에서 소셜미디어 분석 툴인 Crowdtangle에 재투자 및 개방하고, Alphabet에서 호환가능한 도구를 만들고, Twitter에서 개방적이고 무료거나 저렴한 API를 유지하는 등). 광고 라이브러리와 해당 기능(예: 타겟팅 매개변수)의 알고리즘 등에 대해 완전한 투명성과 정확성을 보장하고, 캠페인 재정 및 지출을 면밀히 조사할 수 있는 재무 정보를 공개하고, 독립적인 감사를 수행할 것
10. 책임을 부여할 것. 플랫폼에서 발생한 모든 실제 또는 잠재적인 피해를 기록, 보존하고 피해 완화 조치의 정확성과 효과를 검증하기 위한 문서화를 허용하여 실시간 및 사후 책임 추적을 가능하게 할 것
소셜미디어는 여론을 어떻게 왜곡하는가
국제사회가 이렇게 빅테크 기업에 자체적인 노력을 요구하고 나선 이유는 이들이 운영하는 유튜브나 트위터 등 소셜미디어 플랫폼이 정보 생태계와 시민들의 여론에 막강한 영향을 미치기 때문이다. 특히 AI와 딥페이크, 알고리즘 등의 정보 기술이 급격하게 발전하고 상용화 되면서, 소셜미디어에서 정보조작이나 혐오 콘텐츠가 더 쉽게, 대량으로 확산되고 이에 따라 여론이 왜곡되는 현상은 국제적으로 점점 심각한 문제가 되고 있다.
이러한 문제의 예시는 지난 2016년 미국 대선에서 "프란치스코 교황이 트럼프 대통령을 지지했다"는 식으로 특정 후보를 지지하거나 비방하는데 쓰인 '가짜 뉴스' 뿐만이 아니다. 기술정의연합 주최 단체인 디지털 액션(Digital Action)의 사례 조사에 따르면, 지난 1월 대만에서 치러진 총통과 국회의원 선거에서는 대만 독립을 지지하는 후보를 표적으로 삼아 대만-중국 갈등의 두려움을 조장하는 딥페이크 비디오를 유포하거나, 부정선거 루머를 담은 틱톡 영상을 제작하는 등 중국의 여론 개입이 광범위하게 이루어졌다.
인도에서는 2019년 의회선거 당시 이슬람 거주지역 폭탄테러에 가담한 힌두교 국민주의 정당의 후보가 보석으로 석방되자, 그가 '무죄를 받았다'고 속이는 기사형 광고를 스타트업 업체가 페이스북과 인스타그램에 대리 집행했다. 광고는 반무슬림 증오를 조장하는 허위 정보였으나 하루 만에 조회수 30만회를 기록했다.
독재정권과 극우세력의 여론전이 폭력으로 치닫는 심각한 경우도 있다. 2021년 튀니지에서는 정권에 대한 반대 목소리를 탄압하고 야당 정치인들을 투옥한 바 있는 독재자 카이스 사이드 대통령의 지지자들이 반정부 시위에 참여한 여성 활동가를 향해 주소와 전화번호 등을 포함한 신상털이를 하고, 정부와 결탁해 소셜미디어에서 조직적으로 사이버 괴롭힘을 자행했다. 그녀는 결국 튀니지에서 도망칠 수밖에 없었다.
'괴물'이 된 소셜미디어... 한국은 총선 잘 대비하고 있나
▲ 제22대 국회의원을 선출하기 위한 4·10 총선이 50일 앞으로 다가온 20일 오후 서울 종로구 서울시선거관리위원회에 선거일까지 남은 일수가 표시돼 있다. ⓒ 연합뉴스
한국의 경우, 선거 시기 소셜미디어에서 유포되는 허위정보나 혐오표현을 규율하기 위한 논의가 시민사회에서도 주요하게 다루어지지 않고 있다. 한국에서는 과도한 선거법 규제로 선거 시기 후보자에 대한 지지나 비판 자체가 오랫동안 불가능했기 때문이다. 불과 2년 전인 2022년까지도 선거 기간에는 일반 시민들의 집회가 제한되고, 비리후보자 등에 대한 낙선운동도 할 수 없는 등 시민들의 정치적 표현이 과도하게 억압되어 왔다.
게다가 현 정부에서는 '가짜뉴스'를 차단하겠다거나 선거에 영향을 줄 수 있다는 구실로 정부에 대한 비판 여론을 차단하거나, 시민들의 정치적인 표현을 억압하는 행태가 이어지고 있기도 하다. 지난 2월 15일 KBS 제작본부가 세월호 10주기 추모다큐 방영을 무산시킨 사건은 상징적이다.
그러나 한국 사회에서도 선정적이고, 양극화되고, 잠재적인 유권자에게 잘못된 정보를 퍼뜨려 오해를 불러일으키는 소셜미디어의 콘텐츠는 여론에 점점 더 큰 영향력을 미치고 있다. 일례로 가장 최근 선거인 2022년 지방선거에서는 당시 극우 성향의 유튜브 채널 '가로세로연구소'를 운영했던 강용석 경기도지사 후보가 정치후원금으로 하루만에 19억 8천여만 원을 모금해, 전체 지방선거 후보자 중 가장 큰 금액을 모으기도 했다.
다행히 지난 2월 16일, 구글, 메타, X, 틱톡 등 20개의 빅테크 기업이 2024년 선거에서 '인공지능의 기만적 사용을 방지하기 위한 기술 협약'(Tech Accord to Combat Deceptive Use of AI in 2024 Elections)을 공동으로 발표했다. 이들은 사기성 AI 선거 콘텐츠의 위험을 완화하기 위한 기술 개발 및 구현, 위험 평가 모델 수립, 플랫폼에서 허위콘텐츠 탐지 및 해결을 위한 노력, 회사가 문제를 어떻게 해결하는지 투명하게 공개, 다양한 글로벌 시민사회단체·학계와 협력 등 8가지를 약속했다.
한편 4월 10일 총선을 앞두고 21대 국회에서는 작년 말 선거법을 개정하면서 딥페이크를 선거운동에 사용하는 것을 금지했다. 하지만 단순히 기술 사용 자체를 규제하는 것으로는 소셜미디어에서 발생하는 다층적인 위협을 근본적으로 해결할 수 없을 것이다. 선관위 등 규제기관은 빅테크들의 협약이 잘 이행되고 있는지 살피는 한편, 이번 선거를 계기로 소셜미디어 플랫폼에서의 허위정보 및 혐오 콘텐츠 확산 현황과 그 영향에 대해 공식적으로 분석하고, 논의의 장을 만들어야 할 것이다.