2019년 3월 유럽의 한 기업 임원이 상사인 회장의 목소리를 모방한 범죄자의 지시에 속아 무려 22만 유로, 우리 돈으로 약 3억원을 송금하는 사건이 발생했습니다. 실제 인물의 얼굴이나 목소리 등을 가짜 영상이나 이미지에 변조, 합성하는 딥페이크 기술을 이용한 보이스피싱에 당한 것이죠. 인공지능 관련 기술이 눈부시게 발전하면서 이를 악용한 사이버 범죄가 늘어날 것이라는 우려가 커지고 있습니다.

딥페이크, 진짜와 가짜의 경계가 모호해지다

지난 2021년 3월, 할리우드의 인기 배우 톰 크루즈가 한 온라인 동영상 서비스 플랫폼에 등장했습니다. 그의 일상을 담은 다양한 영상이 연이어 올라왔죠. 그러나 이 영상은 가짜였습니다. 톰 크루즈의 얼굴을 다른 사람을 찍은 영상에 교묘히 합성한 것이었죠. 하지만 얼굴 표정이나 입 모양이 너무 자연스러워 자세히 들여다보지 않으면 깜빡 속아 넘어갈 만큼 감쪽같았습니다. 이를 통해 딥페이크의 무서움을 깨달았다는 이들도 많았죠.

딥페이크는 인공지능 기술의 일종인 '딥러닝(Deep Learning)'과 가짜를 의미하는 ‘페이크(fake)’의 합성어입니다. 딥러닝은 인공지능의 핵심이자 각광받는 기술로 평가됩니다. 인간과 유사한 논리 구조를 사용하여 데이터를 알아서 분석하고 학습해 예측하죠. 빨갛고 동그랗고 무게가 일정 수준인 사물을 사과로 인식하는 수준을 뛰어넘어, 수많은 데이터를 찾아내고 분석해 사과의 특징을 스스로 파악하는 식입니다.

얼굴을 구분하거나 말을 알아듣는 감각적인 부분에 취약했던 기존의 인공지능은 딥러닝의 발전으로 인해 비약적으로 성장하게 되었습니다. 이에 따라 딥러닝을 영상이나 음성 합성 등에 사용하는 딥페이크 기술 역시 놀라운 수준으로 발전했는데, 이를 실제로 구현하는 'FakeApp' 등의 소프트웨어가 무료 배포로 대중화되며 이를 범죄에 사용하는 사례가 생겨나고 있죠.
 

보이스피싱에 사용되는 딥페이크 기술

보이스피싱은 2000년대 중반부터 국내에 급속도로 퍼지기 시작했습니다. 전화를 통해 그럴 듯한 말로 개인정보를 빼내어 금전적 이득을 취하는 형태에서 시작해 하루가 다르게 진화해왔죠. 최근에는 딥페이크(Deep Fake) 기술과 결합하는 양상까지 보이고 있습니다. 피해자를 속이는 방법이 점차 정교해지고 있는 것이죠.

수법은 단순합니다. 인터넷상에 올라와 있는 사진, 동영상 등을 통해 피해자 주변인의 신체적 정보를 입수한 후, 이를 활용해 딥페이크 영상이나 음성 등을 제작합니다. 이를 피해자에게 보이거나 들려주며 금전적 요구를 하면 당황한 피해자가 거액의 돈을 이체하는 식이죠. 어린 자녀의 비명소리나 연로하신 부모님의 목소리를 활용하는 경우가 많다고 합니다. 물론 이는 모두 합성된 가짜 음성이고요.

알고 나면 왜 속나 싶을 정도로 어이없지만, 막상 자신의 일이 되면 평정심을 찾기 어렵습니다. 사랑하는 가족의 목소리나 얼굴이 가짜일 것이라고는 의심하기 어렵기 때문이지요. 아직 국내에는 목소리만을 이용하는 딥페이크 보이스피싱 사례가 다수이지만, 딥페이크 음란물 영상 등으로 인한 피해자가 늘고 있는 현 상황을 감안하면 앞으로 피해 형태는 더 다양해질 수 있습니다.
 

딥페이크 보이스피싱 예방법

미 플로리다 주 공화당 상원의원이자 2016년 대통령 후보였던 마르코 루비오는 "진짜 같은 가짜 비디오를 제작할 능력만 있으면 선거를 훼방하고 미국을 심각한 내부적 위기로 몰아넣고 깊은 타격을 입힐 수 있다”라고 말하며 딥페이크를 '현대의 핵무기'라 표현했습니다. 딥페이크가 사회에 미칠 수 있는 해악이 얼마나 큰 지 짐작할 수 있는 발언입니다.

삶에 큰 피해를 입힐 수 있는 딥페이크 보이스피싱을 예방하기 위해서는 기술 발전은 물론 우리의 선제적인 노력이 필요합니다.

우선 인터넷상에 자신의 신체적 정보가 담긴 자료, 즉 영상이나 사진 등을 업로드하지 않아야겠죠. 훌륭한 커뮤니케이션 수단이지만 범죄에 악용될 가능성이 크다는 점을 잊지 말아야 합니다. 아무리 가족이라 하더라도 개인정보를 요구하는 경우 의심하고, 꼭 필요한 경우에는 전화나 대면을 통해 사실관계를 확인하는 습관을 들인다면 이를 활용한 범죄자와 접촉한다 하더라도 사고를 피할 수 있을 겁니다.

만일 범죄 피해사실을 뒤늦게 알아차렸다면 아래의 금융감독원의 '보이스피싱 피해 시 대처방법'을 참고해 즉각 대응해야 한다는 점도 잊지 마세요.

글 / 효성 FMS 편집팀 효성cms