[안치용의 인문학 IT]’딥페이크’, ‘지인능욕’ 너머 ‘세계능욕’?

n방방 사건을 비롯해 인터넷 사이버 성폭력이 확산되면서 딥 페이크(Deep Fake)가 동시에 주목받고 있다. 딥페이크는 인공지능(AI)을 활용해 특정 인물의 가짜 영상을 제작하는 행위와 기술, 그 결과물을 의미한다. 딥페이크에 대해 대한민국 법무부가 부여한 공식 명칭은 인공지능 기반의 첨단 조작 기술이다.페이크라는 말에서 유추되듯이 실제 사람에게 물리적인 위해를 가하면서 사이버상의 범죄 공모와 실행, 범죄물 유통 등을 결합한 n방방과 딥페이크 사이에는 차이가 있다. n방방이 실제 사람에게 가해지는 물리적 폭력을 전제로 범죄를 성립시킨다면 딥페이크는 실제 사람을 대상으로 한 비물리적 가상적 (성폭력 사건)이다. n방방에는 지인의 영상을 음란물과 합성한 이른바 지인의 능욕 영상도 공유된 것으로 알려졌다.그러나 엄밀히 말하면 딥페이크 자체가 범죄는 아니다. 인공지능 기반 첨단조작 기술을 이용해 범죄를 저지르거나 범죄에 가담했을 때만 딥페이크가 유죄라고 할 수 있다. 선용 사례가 없는 것은 아니지만 현재 성범죄에서 딥페이크가 많이 사용되는 데다 페이크에 부정적인 뉘앙스가 들어 있어 딥페이크를 범죄와 연관시킨 용어로 받아들이는 것 같다. n방방에 지인의 능욕 영상이 공유된 사례에서 보듯 딥페이크가 어쩌면 가장 쉽게 저지를 수 있는 성범죄 유형이 될 수 있다는 우려가 나온다.딥페이크라는 말의 유래에 대해서는 AI와 관련된 딥러닝(Deep Learning) 기술과 페이크(Fake)의 합성어라는 의견이 일반적이다. 이것이 의미에 충실한 용어의 유래 해석이며 최초의 딥페이크 영상제작자의 온라인 아이디가 딥페이크이므로 이 명칭으로 굳어졌다는 이야기도 있다.

>

딥페이크는 사진 합성기술 발전의 결과물이다. 기존에는 포토샵 등 소프트웨어를 이용해 사람이 직접 사진을 합성했으나 AI 기술의 발달로 컴퓨터에 사진이나 영상을 입력하면 사람 대신 컴퓨터가 스스로 합성된, 즉 짝퉁 영상을 만들어내게 됐다.딥페이크의 기반은 AI이며, AI의 양상 중 가장 대표적인 딥러닝을 필요로 한다. 딥러닝은 컴퓨터가 마치 인간처럼 생각하고 배우게 만든 기술로, 간단히 컴퓨터에 의식을 준다고 할 수 있다. 여기에 안면 매핑(facial mapping), 안면 스와핑(face-swapping), 생성적 적대신경망(GAN) 등 AI와 관련된 기술이 속속 세상에 나오면서 딥 페이크가 가능해졌다.복잡한 기술의 이야기는 기술을 전문으로 지면으로 돌리고, 여기서는 비유적으로 딥 페이크를 설명해 보자. 흔히 있는 예가 위폐이고 화폐위조범과 경찰이 속여 잡는 과정에서 더욱 속여 잡는 기술을 발전시킨 것과 딥페이크 기술을 통한 영상 산출이 유사한 구조를 취한다. 다만 딥페이크를 실행하는 단일 컴퓨터(의식) 내에 화폐위조범과 경찰이 공존하며 서로를 격려한다는 점이 현실의 위폐를 둘러싼 풍경과는 다르다.과학기술의 발전은 불과 수십 년 전만 해도 상상할 수 없었던 이런 훌륭한 기술을 이제는 평범한 것으로 만들어 버렸다. 성폭력 처벌법을 개정하고 딥페이크 음란물 처벌 조항을 신설해 처벌을 강화한 것은 딥페이크가 누구나 쉽게 사용할 수 있는 기술이 됐다는 위협적 현실을 고려한 대응이다.(개정안은 2020년 6월 25일 시행) 딥페이크의 프로그래밍 소스는 공개돼 있다. 일정 수준 이상의 프로그래밍 언어를 구사하면 가정용 컴퓨터에서도 딥페이크 영상을 만들어 낼 수 있다. 소액을 지불하면 원하는 대로 조작된 영상을 받아볼 수도 있다. 법률용어를 떠올리면 첨단의 조작기술을 이처럼 대중적으로 값싸고 손쉽게 이용할 수 있는 시대가 된 것이다. 기술은 점점 발전해 최근에는 사진 한 장으로 동영상을 만들어 내는 기술이 나왔다. 삼성전자와 모스크바 AI연구소는 사진 한 장만으로도 이야기할 수 있는 얼굴 동영상을 만들어 낼 수 있는 신기술을 내놓았다. 국내외에서 목소리를 위조하는 기술도 연구 중이다. 범죄가 아닌 사소한 생활기술에 활용될 소지가 많지만 범죄에 악용될 가능성이 크다는 점에서 이 같은 기술의 발전은 곤혹스러운 일이다.위조지폐, 모조품, 위작에 이어 가게무샤까지 짝퉁은 인간세계의 만연한 욕망이고 본질적인 현상이므로 조금만 과장하면 일종의 필요악이다. 다만 그때 페이크는 인간 사이에서 생성된 페이크였다. 예컨대 위폐를 만들고 위폐범을 잡는 대치가 위폐라는 매개물을 거쳤지만 근본적으로 인간 대 인간의 문제였지만 이제는 대치전선이 모호해지고 있다. 물론 현재로서는 인간 대 인간을 최종 식별할 수 있지만 현상은 무력하게 피해를 본 인간만이 AI의 딥 페이크 기술 앞에서 망연자실하게 쓰러져 있을 뿐이다.문제는 이제부터다. 딥페이크 기술의 대중화로 누구나 쉽게 성범죄를 저지를 수 있고 적발 기술은 범죄 기술의 따라잡기가 늦다. 전 세계에 유통 중인 딥페이크 영상의 25%가 한국 여성 연예인을 대상으로 한 것으로 추정되지만 당장 적절한 대처 수단이 없는 실정이다. 딥페이크는 성범죄 외에 광범위하게 사용될 수 있어 더 걱정된다. 딥페이크의 사례에서 가장 많이 인용된 것이 버락 오바마 미국 대통령이 “트럼프는 정말 쓸모없는 사람”이라고 말한 영상이었다. 오바마 대통령은 당연히 그런 말을 한 적이 없다. 낸시 펠로시 하원의장도 딥페이크 영상 때문에 곤욕을 치렀다.

>

더 정교하고 더 위협적이며 더 사악한 페이크가 나타날 가능성은 남아 있다. 개인의 사생활 침해나 여론 조작을 넘어 국가안보와 세계 평화를 위협하는 페이크가 나타나지 말란 법이 없다. 앞으로 딥페이크에 대한 전쟁을 수행하게 되면 그 전사는 인간이 아닌 AI가 될 것이다. 페이크를 AI가 만들어내고, 그것을 적발해 진짜를 복원하는 것도 AI가 한다면, 인간은 영원히 어느 것이 원래 진짜이며, 원래 페이크였는지 알 수 없게 될 가능성이 있다.사실 본래 진위를 몰랐을 수도 있다. 그저 알려고 노력했을 뿐이야. 다가올 세상에서 인간이 그런 노력을 멈출 수 있을 것이라는 예상은 너무 디스토피아적인가. 만약 그런 디스토피아가 현실화된다면 그때는 인간보다 AI가 더 인간적이라는 얘기를 듣게 되지 않을까.문안치용/인문학자