지난 10월, 국회 과학기술정보통신위원회 국정감사에서 자유한국당 박대출 의원은 '딥페이크'를 마땅히 대응하는 정부기관이 없다고 지적했습니다. 가짜 뉴스나 포르노에서 악용되고 있는 딥페이크는 우리나라뿐만 아니라 미국, 영국, 중국 등 너나할 것 없이 이를 규제하려 애를 쓰고 있습니다. 딥페이크, 어떤 기술이기에 전 세계를 흔들고 있는걸까요? 

딥페이크(Deep fake)란?

딥페이크(Deep fake)는 Deep learning과 Fake의 합성어이며 인공지능(AI) 기술을 활용해 특정 인물의 얼굴, 신체 등을 원하는 영상에 합성한 편집물을 말합니다. 이는 가짜임을 판별하는 머신러닝과 더 진짜같이 만들려는 머신러닝이 대립한 생성적 적대 신경망을 기반으로 만들어진 기술로 학습할 영상이 많을수록 더욱 정교한 결과물을 만듭니다. 

동영상 제작 시 인력이 소요되는 시간을 획기적으로 줄일 수 있다는 점에서 콘텐츠 혁명이 될 것이라고 평가받고 있습니다. 실제로 중국 신화통신에서는 딥페이크로 AI 아나운서를 만들어서 뉴스를 보도했습니다. 신화통신에서는 AI아나운서는 사람과 달리 지치지 않으며 입력한 대로 보도를 할 수 있으며 별도의 장소나 카메라가 필요치 않아 제작 비용을 줄일 수 있을 것이라 말합니다. 

큰사진보기
▲  사진 한장으로 간단히 딥페이크 영상을 만들 수 있는 어플
ⓒ Mug life	관련사진보기

  
요즘은 누구든 몇 분짜리 영상만 있다면 딥페이크에 쉽게 접근할 수 있습니다. 가장 쉽게 접할 수 있는 것으로 어플을 들 수 있습니다. 구글 스토어나 앱스토어를 통해 무료로 간단한 딥페이크 영상 제작이 가능합니다.

또한 직접 오픈소스를 이용하거나 회사에 비용을 지불하여 원하는 딥페이크 영상을 만들 수 있습니다. 하지만 이는 대부분 불법입니다. 중국, 미국 등에서 의뢰자가 원하는 인물의 사진과 영상으로 제작하는 '딥페이크 포르노'가 대표적입니다.  

'딥페이크' 전쟁, 눈앞에 있다

나랑 같은 얼굴의 영상이 진짜인 것 마냥 돌아다닌다면 어떨까요? 앞서 말한 장점보다 불법으로 악용할 우려가 크기에 딥페이크를 향한 기대보다 우려의 목소리가 훨씬 큽니다. 선거철 정치인의 얼굴을 합성해 만들어지는 가짜뉴스도 혼돈을 가져오지만, 현재 독보적으로 많은 영상이 양산되는 부분은 '딥페이크 포르노' 입니다. 

큰사진보기
▲  지난 10월 발표한 딥페이크 영상 현황. 딥페이크포르노가 대부분을 차지함을 볼 수 있다.
ⓒ Deeptrace	관련사진보기

    
네덜란드의 사이버 보안 연구 회사 딥트레이스(Deeptrace)의 딥페이크 연구 보고서에 의하면 '딥페이크 영상의 96%가 포르노'임이 밝혀졌습니다. 딥페이크 포르노 웹사이트에서 표적이 된 사람들은 100%가 여성이며 영국, 미국 등 다양한 국적을 띄며 25%가 한국 여성 연예인으로 나타났습니다.

가장 빈번하게 딥페이크 포르노의 피해자가 된 10명 중 3명은 한국의 여성 가수입니다. 이 보고서는 어느 나라도 딥페이크의 안전지대에 있지 않으며 그중 한국 여자 연예인을 표적으로 삼은 영상이 상당 부분 차지하는 걸 말해 줍니다.

그렇다면 딥페이크로 만든 영상인지 판별이 가능할까요? 현재 딥페이크 기술은 상당히 빠르게 발전하고 있습니다. 현재도 전문가가 아니라면 딥페이크 영상인지 정확히 알 수 없습니다. 빠른 발전에 의해 전문가들조차 동영상의 진위를 가리는 것이 머지않아 불가능해질 것이라고도 말합니다.

기술이 발전할수록 가짜 영상과 진짜 영상의 경계가 사라질 것입니다. 가짜가 진짜로, 진짜가 가짜로 둔갑하는 게 더 쉬워진다는 걸 의미합니다. 앞서 말한 콘텐츠 혁명으로서의 딥페이크를 받아들이는 긍정적인 면의 대가라고 하기에는 부정적인 면이 상당히 큽니다. '내가 하지도 않은 말을 하는 딥페이크 영상이 퍼진다면?', '누군가 악의를 품고 내 얼굴을 합성한 딥페이크 포르노 영상이 올라온다면?' 딥페이크인 걸 증명하는 것은 오롯이 피해자의 몫으로 돌아가게 됩니다. 이러한 딥페이크 가짜 영상은 애초에 법의 테두리 밖에서 불법으로 행해지고 있기 때문입니다.

딥페이크가 만연해진다면 사람들은 영상을 믿지 않을 것입니다. 무엇이 진짜인지 알 수 없기 때문입니다. 그러므로 사태가 악화하기 전에 관련 법을 제정하는 것이 시급합니다. 하지만 지난달 국정감사에서 박대출 의원이 말했듯 우리나라의 법은 딥페이크의 발전 속도에 한참 뒤처지고 있습니다. 앞선 딥트레이스의 통계치를  볼 때, 한국은 딥페이크의 안전지대에서 멀리 떨어져 있음에도 불구하고 직접적인 딥페이크 관련 법은 아직 마련되어 있지 않은 상황입니다. 

딥페이크, 어떻게 대처해야 할까?   

이러한 상황에서 우선으로 고려해야 할 점이 있습니다. 첫 번째, 딥페이크의 영상 표시를 의무화해야 합니다. 두 번째, 법을 어긴 딥페이크 영상에는 강력한 처벌이 필요합니다. 세 번째, 딥페이크를 적용할 얼굴 대상의 동의 하에 계약서를 작성 후 영상을 제작해야 합니다. 네 번째, 유관 기관을 지정해야 하고 관련 법 제정과 연구비 지원을 서둘러야 합니다. 다섯째로 딥페이크 영상 판별 기술과 피해자의 정신적 피해를 위한 지원이 있어야 합니다.  

법의 테두리 안에서 긍정적인 면이 크다면 딥페이크는 패러다임을 변화시킬만한 기술임이 분명할 것입니다. 하지만 지금의 딥페이크는 불법 포르노를 양산하는 등  부정적인 그림자가 훨씬 짙습니다. 국가가 나서 가짜영상의 공격으로부터 우리를 보호해야 할 때입니다.