“민생 소리 좀 그만해. 민생 걱정한다는 애가 국민들 갈라치기에만 몰두하냐.”
지난 3월 7일 틱톡의 한 계정에 올라와 있는 인공지능(AI)으로 만든 가짜 윤석열 대통령이 이재명 더불어민주당 대표를 비난하는 내용의 딥페이크 영상이다. 유튜브에도 앞서 한동훈 국민의힘 비상대책위원장이 김건희 여사의 명품가방 논란과 관련해 “조폭들이나 할 일”이라고 발언한 것처럼 만든 가짜 영상이 올라오기도 했다.
올해는 전 세계 76개국(총 인구수 기준 42억 명 추정)에서 전국 선거가 치러지는 ‘슈퍼 선거의 해’다. 전 세계적으로 딥페이크(Deepfake)가 세계 각국에서 열리는 선거에 영향을 미쳐 혼란을 야기할 수 있다는 우려가 높아지고 있다.
딥페이크 영상을 만드는 애플리케이션이나 웹사이트는 손쉽게 접할 수 있다. 특정 사람의 음성 파일을 3~4개 정도 올리면 AI가 학습해 음성을 복제해주는 방식이다. 사진과 영상도 마찬가지다. 유튜브 영상을 다운로드받아 올리면 영상 속 화자의 얼굴을 바꿀 수도 있다. 여기에 딥보이스 기능까지 활용하면 한층 더 실제처럼 보인다. 공개 영상이 많으면 조작물의 정확도도 높아진다.
영상 생성 AI 기술은 범용인공지능(AGI·인간 이상의 지능을 보유한 AI) 개발에 필수적인 기술이다. 영상 생성 AI 모델 개발을 둘러싼 빅테크 간 경쟁은 갈수록 격화되고 있다.
메타는 지난해 9월 영상 생성 AI 모델 ‘메이크 어 비디오(Make-AVideo)’의 연구 성과를 공개했고, 구글도 지난해 말 명령어로 짧은 동영상을 만드는 생성 AI 모델 ‘비디오 포엣(Video Poet)’을 발표한 바 있다. 오픈AI는 지난 2월 이용자의 명령어로 동영상을 제작하는 생성 AI 모델 ‘소라(Sora)’를 공개했다. 텍스트, 이미지에 이어 동영상까지 AI가 만들어주는 시대로 전환이 가속화되고 있는 셈이다.
기술 혁신 속도가 빠르다 보니 딥페이크가 속수무책으로 확산되고 있다. 정보기술(IT)업계에서는 딥페이크 기술이 고도화·상용화될수록 가짜 뉴스 등 허위정보에 따른 ‘탈진실(post truth)’을 넘어 ‘진실의 종말(end of truth)’로 이어질 수 있다는 우려를 하고 있다.
딥페이크는 쉽게 만들 수 있다. 영국 AI 스타트업 신디시아는 대본만 입력하면 영상을 순식간에 생성하는 서비스를 제공해주고 있다. 성별, 나이, 인종, 목소리 톤, 패션 등이 다른 85개 이상의 캐릭터를 만들 수 있다. 딥페이크가 어두운 그림자만 남기는 건 아니다. 2023년 한 보험사 광고에 20대 신인 배우 윤여정이 등장해 “아직 작은 배역이지만, 노력하다 보면 사랑받는 배우가 될 수 있겠죠?”라고 말한다. AI가 과거 사진과 영상을 모아 만든 딥페이크 영상이다. 드라마 ‘카지노(디즈니플러스)’에선 배우 최민식의 얼굴을 나이보다 어려 보이게 만든 AI 디에이징(de-aging) 기술이 적용됐고, 드라마 ‘웰컴투 삼달리(JTBC)’나 ‘살인자ㅇ난감(넷플릭스)’에선 AI 딥페이크를 활용해 새로운 얼굴과 표정을 만들었다. 지난해 국방홍보원은 2007년 훈련 도중 순직한 공군 박인철 소령을 복원해 어머니와 재회하는 자리를 만들었다. 하지만 영상 제작 AI 기술을 악용할 수 있다는 우려는 커지는 추세다. 유사 사례 재발을 막고자 최근 오픈AI, 구글, 메타 등 빅테크 기업들은 딥페이크 악용을 방지하는 정책을 만들기 위한 공동협약을 맺기로 했다.
[김병수 · 황순민 기자]
[본 기사는 매경LUXMEN 제163호 (2024년 4월) 기사입니다]
