<<美 대선 앞두고 실존 인물 사진 도용해 음모론 확산시켜>>
중·고등학교 교실부터 명문 대학·군대·회사까지…생성형 인공지능(AI)으로 허위 음성 및 이미지를 만드는 ‘딥페이크(Deep fake) 기술을 악용한 성범죄가 일상 곳곳에 침투해 공포를 조장하고 있다.
시큐리티 히어로가 2023년 발간한 보고서에 따르면 세계적으로 딥페이크로 만들어진 동영상 중 98%는 포르노 영상이었으며, 이 중 절반 이상은 한국 가수와 배우를 표적으로 삼은 것으로 드러났다.
한국뿐만 아니라 세계적으로도 상황은 마찬가지다. 딥페이크로 제작된 사진과 영상은 성범죄와 금융사기를 비롯해 대선에서 특정 후보를 비방하기 위한 목적으로 날조되고 있다.
최근 일본에서는 딥페이크 금융사기가 기승을 부리고 있다. 영국의 한 기업 조사를 인용해 2023년, 일본 내 딥페이크 사기가 전년 대비 28배나 늘었다고 보도했다. 조사 대상인 224개국 및 지역 중 5번째로 가파른 증가세다.
이는 일본어라는 언어의 장벽이 깨졌다는 것을 의미한다고 니혼게이자이신문(닛케이)은 분석했다. 히라가나·가타카나·한자를 혼합해 쓰는 일본어의 특성상, 그동안은 생성형 AI가 자연스러운 일본어 문장을 구사하는 것이 어려웠다. 하지만 이제는 비교적 자연스러운 음성 및 동영상을 제작할 수 있는 수준까지 개선된 것이다.
실제로도 일본어를 사용한 딥페이크 이메일 사기는 점점 늘어나고 있다. 미국 보안 대기업 프루프 포인트는 일본에서 거래처를 가장한 사업 이메일에 사기를 당한 이의 비율이 2023년, 전년도 대비 35% 급증해 세계 최고의 증가율을 보였다고 지적했다.
해외에서도 딥페이크에 큰돈을 잃은 사례가 잇따르고 있다. 지난 2월에는 영국 대기업 엔지니어링 기업의 사원이 딥페이크로 꾸며진 화상 회의에서 약 2억 홍콩달러(약 343억 원)를 갈취당하는 피해를 입기도 했다.
오는 11월 대통령 선거를 앞둔 미국에서는 딥페이크를 동원한 선거전이 기승을 부리고 있다.
대표적으로 공화당 대선 주자인 도널드 트럼프 전 대통령의 열렬한 지지자로 3만 명의 사회관계망서비스(SNS) 엑스 팔로워를 보유한 32세의 루나는 딥페이크로 만들어진 가상의 인물로 밝혀졌다.
가상의 인물 루나는 트럼프 캠프의 디지털 확성기 역할을 했으며, 상대 진영의 카멀라 해리스 부통령에 대한 음모론을 조장했다. 성소수자·백신에 반대하고 인종차별 및 외국인 혐오를 부채질하는 게시물도 남발했다.
문제는 루나가 자신의 얼굴이라고 올린 사진이 사실은 대서양 건너편 독일에서 패션 인플루언서로 활동하는 데비 네더로프의 사진이었다는 점이다.
또한 앞서 지난 1월에는 민주당의 예비선거가 치러진 뉴햄프셔주에선 경선 전날에 ‘투표에 참여하지 말라’는 바이든 대통령의 로보콜을 받았다는 유권자들의 증언이 쏟아지기도 했다.
백악관은 즉각 해당 로보콜이 바이든 대통령의 녹음본이 아니며 AI로 가짜 이미지와 음성을 합성한 딥페이크라고 해명했다.
메신저 앱 ‘텔레그램’에는 투자 사기 집단용으로 음성을 합성하거나 외국어 번역이 가능한 툴(도구)을 매매한 정황이 확인됐다.
텔레그램이 ‘딥페이크(Deepfake) 성착취물 범죄의 온상인 된 배경에 광고수익이 자리 잡은 것으로 나타났다. 텔레그램은 올해 4월부터 1000명 이상을 모은 방 개설자에게 광고수익을 지급하고 있다.
29일 업계에 따르면 텔레그램은 올해 4월1일 암호화폐 ‘톤코인'(TON)을 활용해 구독자 1000명 이상 채널(방) 개설자에게 광고수익을 지급하기 시작했다. 수익은 방 개설자와 텔레그램이 50%씩 나눠 갖는 것으로 알려졌다.
톤코인은 텔레그램이 관여한 코인이다. 텔레그램이 2018년 자체 블록체인 네트워크인 ‘톤’을 만들었고 이후 톤 재단이 네트워크 개발·운영을 이어받았다. 지난해 9월 ‘텔레그램 웹3’ 인프라를 구축하면서 톤코인을 블록체인으로 채택했다.
텔레그램에 따르면 톤코인은 일부 암호화폐거래소를 통해 현금화할 수 있다. 이외 텔레그램 내에서 상품을 구매하거나 채널 홍보 등에 사용할 수 있다.
텔레그램 서버는 해외에 있어 추적·적발이 쉽지 않은 탓에 오래전부터 마약·성착취물 범죄의 통로로 활로로 활용됐다.
여기에 방 개설자가 1000명 이상 구독자를 모으면 수익까지 얻을 수 있게 되면서 국내외에서 성착취물 범죄가 본격적으로 확산하는 ‘트리거’ 역할을 한 것으로 보인다.
그간 국내 수사기관은 ‘N번방’ 사건 등의 성착취물 유포자들이 불법합성물로 많은 수익을 얻은 건 아니라고 파악했다. 일선 법원도 ‘범죄 수익이 적다’는 등의 이유로 집행유예를 선고하는 경우가 많았다.
한편 파벨 두로프는 범죄 방치 혐의로 이달 25일 프랑스 파리 외곽 르 부르제 공항에서 긴급 체포됐다. 그는 이후 법정에 출석해 텔레그램 운영과 관련 12건의 범죄 혐의를 조사받고 기소됐다.
권진영,김민석 기자<기사제공 = 하이유에스 코리아 제휴사, 뉴스1>
