이러한 가짜 비디오가 등장한 배경은 AI의 급격한 발전에 있다. 이 가짜 동영상은 이미지 인식에 뛰어난 기계 학습 알고리즘의 깊은 학습을 이용한 것이다. 이 동영상은 디지털 시대에 거짓 동영상이 얼마나 쉽게 만들어지고 확산될 수 있는지를 단적으로 보여준 사례다. 이는 인공지능(AI) 기술을 이용해 조작된 동영상을 지칭하는 이른바 ‘딥페이크’ 시대의 출발점이기도 하다.

‘딥페이크’는 ‘딥러닝(Deep Learning)’과 ‘페이크(Fake)’의 합성어로. 어떤 사람이 어떤 말이나 행동을 하지도 않았는데 실제로 한 것처럼 AI 기술을 이용해 속임수를 쓰는 것을 일컫는 말이다.

최신 기계학습 기술을 기반으로 한 GAN(생성적 적대 신경망), 딥페이크, 스타일 트랜스퍼 알고리즘들을 사용하면 이론적으로 무한에 가까운 가짜 데이터를 만들어낼 수 있다.

시간이 갈수록 딥페이크가 개별 국가뿐 아니라 지구촌의 평화와 안정을 크게 해칠 수 있다. 인공지능 페이크 기술이 더 발전한 10~20년 뒤를 상상해보자. 대선 1주일 전 등장한 핵폭탄급 딥페이크 동영상으로 선거 결과가 좌우될 수 있고, 유명 정치인, 기업인, 언론인 등 정치적, 경제적으로 큰 영향력을 가진 인사들을 등장시킨 가짜 동영상이 우후죽순 퍼지면 진실이 무엇인지 지구촌 전체가 큰 혼란에 빠져들 수 있다.

조작된 동영상이 세계적으로 활개를 친다면, 여론 왜곡과 민주주의의 교란은 피하기 어려운 현실이 될 것이다. 우리는 이제 가짜와 진짜의 경계가 점점 모호해져가는 시대를 맞이하고 있다.