IT/모바일
2017년이 끝나갈 무렵 갤 가돗, 스칼렛 요한슨, 테일러 스위프트 등 미국 엔터테인먼트 산업의 최고 스타들이 찍은 성인물 영상이 등장해 물의를 빚었다.
당연한 이야기지만 영상은 합성물이었다.
언뜻 보기에 실제 같았지만 조금만 주의를 기울이면 허술함이 곳곳에 드러나는 어색한 영상이었다.
해당 영상을 만든 사람은 딥페이커(DeepFaker)라는 아이디를 사용하는 유튜버였다.
그는 AI 전문가가 아닌 일반 프로그래머였지만 구글이 만든 오픈소스 라이브러리 텐서플로를 이용해서 성인 배우의 얼굴을 갤 가돗의 얼굴로 합성했다.
언론은 이런 일을 예상치 못한 것 처럼 놀라워하며 사건을 보도했지만, 인공지능이 이런 가짜 영상을 만드는 데 적극 활용될 것이라는 사실은 이미 모두 다 알고 있었다.
2018년 4월, 유튜브에는 영상 하나가 공개되었다.
영상에는 버락 오바마 미국 전 대통령이 단정한 양복 차림으로 등장해 시청자를 대상으로 연설을 진행했다. “트럼프 대통령은 완전히 그리고 완벽하게 멍청이(dipshit)입니다.” 이렇게 말한 오바마는 말을 덧붙였다.
“제가 이런 용어를 쓸 사람이 아니라는 점은 아실 겁니다. 적어도 대중 연설에서는 말이죠.”
오바마가 도대체 무슨 말을 하는 건지 혼란스러워질 무렵 영상의 화면이 둘로 나뉘며 오른쪽 화면에 영화 <겟아웃>으로 유명한 조던필 감독이 등장한다.
화면에 나타난 필 감독은 우리가 현재 진짜 같은 가짜 영상이 범람하는 위험한 시대를 살고 있다는 메시지를 전달한다.
화면 왼쪽에 있는 오바마는, 더 정확히는 오바마의 얼굴을 본뜬 아바타는 조던 필 감독이 하는 말을 입으로 똑같이 따라 한다.
화면을 보고 있으면 지금 말을 하는 사람이 오바마인지, 조던 필 감독인지 알 수 없다.
2019년 6월에는 인스타그램에 메타의 CEO인 마크 저커버그의 영상이 올라왔다.
실제로 그가 찍은 영상이라고 믿을 수밖에 없는 생생한 화면 속에서 저커버그는 “수십억 명의 비밀과 사생활이 담긴 데이터를 통제하는 사람이 있다고 생각해보라.
나는 모든 것을 스펙터에게 빚졌다. 바로 그가 나에게 이런 데이터를 통제하면 미래를 얻을 수 있다고 알려주었다.”라고 말했다. 그렇지 않아도 개인정보와 관련된 문제로 고생하는 사람이 어쩐지 자기 무덤을 파는 듯한 발언을 하고 있으니 영상을 본 사람은 고개를 갸웃거릴 수밖에 없었다. 이것도 당연히 딥페이크 영상이었다.
이 정도는 시작에 불과했다. 이후 AI의 영상 기술이 눈부신 속도로 발전하며 딥페이크 기술도 걷잡을 수 없게 발전했다.
2023년 10월 ‘안심할 수 있고, 안전하며, 신뢰할 수 있는 인공지능 개발과 사용에 관한 행정명령’에 서명하던 조 바이든 미국 대통령은 이렇게 말했다.
“나도 내가 나오는 딥페이크 영상을 보고 (너무 진짜 같아서) 놀랄 수 밖에 없었다. 내가 언제 저런 말을 했었지라는 생각을 했을 정도다.”
이 발언을 한 바이든은 진짜였지만 그가 언급한 딥페이크 영상 속의 바이든은 가짜였다. 그 딥페이크 영상에서 바이든은 성소수자를 대상으로 폭언에 가까운 말을 내뱉었다.
유명인이 등장하는 가짜 영상은 홍수처럼 쏟아졌다. 성적 발언을 하는 기시다 일본 총리, 크리스마스트리 앞에서 춤을 추는 엘리자베스 영국 여왕, 맨해튼에서 경찰에 체포되는 도널드 트럼프, 양심 고백 연설을 하는 윤석열 대통령, 사람들에게 투표를 하지 말라고 독려하는 미국 대통령 등 딥페이크 영상이 세상을 뒤덮었다.
그나마 유명인이 등장하는 딥페이크 영상은 대부분 가짜임이 드러나고 판명되지만, 일상생활에 침투하는 가짜 영상은 일일이 따져 헤아리기 힘들 정도가 되었다.
2024년 2월 CNN 보도에 따르면 대형 글로벌 금융 업체의 홍콩 지부에서 근무하는 한 직원은 딥페이크 영상에 속아 사기꾼에게 342억원을 송금하는 잘못을 저질렀다.
그는 본사의 CFO로부터 거액의 돈을 비밀리에 거래할 것을 요구하는 이메일을 받고 처음엔 의심을 품었다고 한다.
당연한 일이다.
하지만 여러 직원이 참여한 화상회의에서 CFO가 구두로 똑같은 지시를 되풀이하자 의심을 거두었다. 저렇게 사람이 많은 자리에서 CFO가 헛소리를 할 리는 없다고 생각한 것이다.
하지만 화상회의에서 만난 CFO는 가짜였다. 회의에 참석한 직원들의 모습도 다 가짜였다.
회의 전체가 통째로 사기꾼이 딥페이크로 만든 가짜 영상이었던 것이다.
Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’
이와 비슷한 방식으로 사람의 얼굴을 복제해서 사기를 시도하는 행위는 수없이 보고되었다.
이렇게 타인의 얼굴과 목소리를 실제처럼 그대로 재현하는 딥페이크 기술은 금품 갈취만이 아니라 성 착취물, 가짜 후기, 가짜 이력서, 정치 선전, 보이스피싱, 저작권 침해, 해킹 등 일상생활의 모든 영역에 스며들고 있다. 우리는 이제 가족과 전화 통화를 할 때, 심지어 화상통화를 하고 있어도 상대방이 내가 아는가족이 맞는지 의심하고 확인해야 하는 서글픈 상황으로 내몰리고 있다.
얼굴이나 목소리는 물론, 가족이 내밀하게 공유하는 정보까지 말 그대로 모든 것을 가짜로 재현하는 게 가능한 세상이 되었기 때문이다.
미국 정부는 국방부 고등방위계획국DARPA과 함께 딥페이크 탐지를 위한 미디어 포렌식 기술을 개발하고 있다.
마이크로소프트나 메타 같은 회사도 마찬가지다. 회사 내부에서 자체적으로 필요 기술을 연구하기도 하고 딥페이크 탐지 기술을 위한 경연대회를 개최하기도 한다.
하지만 딥페이크를 원천 봉쇄하는 방법은 없다.
가짜를 만들어 내는 딥페이크 기술 자체가 인공지능 학습 방법의 일부이기 때문에, 딥페이크를 원천 봉쇄하려면 인공지능 개발을 중단해야 한다.
이는 불가능한 일이다.
딥페이크를 완전히 막을 수는 없더라도 딥페이크 기술로 작성된 영상을 탐지하는 기술은 어느 정도 가능하다.
하지만 이런 기술이 개발 된다고 해도 딥페이크는 금방 그 기술을 회피하는 방식으로 업그레이드될 것이다.
탐지 기술은 다시 업그레이드된 딥페이크 기술을 탐지할 수 있도록 기능을 업그레이드할 것이고, 딥페이크는 또 전보다 강력해진 탐지 기능을 회피하도록 새로 업그레이드될 것이다.
멈출수 없는 공방이다.
설령 이런 기술을 사용해서 딥페이크 영상을 탐지한다고 해도 그건 이미 가짜 영상을 통한 해악이 세상에 퍼져나간 다음일 확률이 높다. 그래서 딥페이크는 이기기 매우 어려운 싸움이다.
그렇다고 딥페이크 기술이 해악을 끼치며 악용되는 상황을 방치할 수는 없다.
사후적이라도 딥페이크로 제작된 영상이나 음성을 탐지하는 기술을 계속 개발해야 하고, 딥페이크를 악의적으로 사용하는 사람을 엄하게 처벌하고 단속하는 법을 만들어야 한다.
사람들에게 딥페이크의 가능성과 악용 수법을 교육하여 사기 등의 피해를 받지 않도록 예방하는 것도 중요하다.
거짓 정보에 좀처럼 현혹되지 않는 냉정한 인식과 성숙한 태도도 매우 중요하다. 지금으로서는 그 정도가 최선일 것으로 보인다.
그나마 지금 우리가 상대하는 딥페이크 사기꾼은 사람이다.
누군가 정치적, 금전적, 개인적 이익을 위해 가짜 영상을 만들어 유포하는 것이다.
그러니 정보는 신중히 대하고 사기꾼은 잡아 처벌하면 된다.
하지만 멀지 않은 미래에는 우린 사람이 아니라 인공지능이 스스로 판단하여 제작하는 딥페이크물을 놓고 고민을 하게 될 것이다.
그걸 딥페이크라고 부를지 아니면 다른 이름으로 부를지는 모르겠다.
그 때를 살아가는 인간은 아마 지금 이 시절을 그리워하게 될 것이다.
"멈출 수 없는 공방 그리고 우리에게 희망이 남이 있길 바랄 뿐." / AI 트루스 중에서
위 내용은 AI 트루스에서 발췌하여 작성하였습니다.
최신 콘텐츠