딸이 납치된 것처럼 속인 딥페이크 영상으로 돈을 뜯어내려고 한 사건이 발생했다.
지난달 외국인 A씨의 스마트폰으로 한국을 여행하던 딸이 감금된 채 “살려달라”며 우는 영상이 전송됐다. 영상을 보낸 이는 “당신 딸을 납치했다”며 “딸을 살리고 싶으면 합의금을 보내라”고 협박했다.
부모는 해당 사실을 영사관에 알렸다.
신고를 받고 출동한 한국 경찰은 딸의 안전을 확인했다. 영상 속 울고 있던 딸의 모습은 딥페이크 기술로 만든 가짜였던 것이다.
경찰청 국가수사본부는 7일 이 사례를 공개하며 “국내에서도 유사한 사건이 발생할 가능성이 있으므로 각별히 주의해달라”고 당부했다.
인공지능(AI)을 활용한 딥페이크는 단순히 얼굴을 바꾸는 것을 넘어 실제 인물처럼 표정과 움직임도 재현할 수 있다.
가짜 음성을 생성하는 딥보이스도 주의해야 한다. 범인이 목소리를 복제해 납치 범죄인 것처럼 꾸며 악용할 수 있기 때문이다.
기존의 피싱 범죄가 목소리를 따라하는 데 그쳤다면 이제는 자녀의 실제 목소리와 얼굴을 활용해 즉각적 송금을 요구하는 범행이 이뤄질 수 있다.
부모도 이런 상황에 처하게 되면 판단할 여유가 없어 심리적 압박에 내몰릴 가능성이 매우 높다.
경찰청은 “딥페이크와 딥보이스는 실제 인물을 학습해야 하므로 소셜미디어(SNS) 등에 공개된 본인과 가족의 영상, 사진, 목소리 등이 범죄조직의 표적이 될 수 있다”며 SNS 계정 ‘전체공개’ 설정을 지양해야 한다고 경고했다.
올해 9월까지 납치를 빙자한 전화금융사기가 174건 발생했다며 “납치 전화가 금융사기일 가능성을 항상 염두에 두고 무조건 신고해야 한다”고도 강조했다.
안찬수 경찰청 마약조직범죄수사과장은 “AI 발전이 일상생활을 더 편리하게 만들었지만 동시에 범죄에 악용될 환경을 제공했다”며 주의를 당부했다.
이가림 인턴기자 onlinenews1@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
