경찰은 2018년부터 AI 기반으로 가짜 음성이나 영상 등을 제작하는 딥페이크(Deep Fake) 기술이 범죄에 악용되는 해외 사례를 눈여겨보기 시작했다. 당시 해외에서는 유명인 사칭 영상이나 가짜뉴스가 사회 혼란을 일으키는 등 딥페이크 기술이 이슈화되던 때였다.
2019년에는 영국의 한 회사 직원이 독일 모기업 대표의 음성이 조작된 전화를 받고 전화 상대방이 자기 상사라고 착각한 채 22만 유로를 외국의 범죄자에게 송금한 사례가 발생하기도 했다. 2020년에는 국내에서도 딥페이크 기술을 이용한 범죄가 발생했다. 이른바 ‘n번방’ 사건이다. 텔레그램 내 여러 채널방을 개설한 뒤 딥페이크 성 영상물을 제작·판매한 피의자들이 무더기로 검거됐다.
딥페이크 기술은 실제와 유사한 가짜 데이터를 제작할 수 있는 생성형 적대 신경망(GAN)이라는 AI 학습 기법을 활용한다. 가짜 데이터를 ‘제작’하는 생성자(일명 ‘위조지폐범’)와 가짜 데이터를 ‘판별’하는 감별자(일명 ‘경찰관’) 입장을 동시에 경쟁적으로 학습시켜 AI의 성능을 높이고, 결국은 구분하기 어려운 실제와 같은 영상을 만들어낸다.
이러한 기술을 활용하면 전문지식이 없는 사람도 손쉽게 가짜 영상물을 제작할 수 있고, 일반인의 시각에서는 그 결과물의 진위를 파악하기 어렵다. 이에 따라 경찰청에서는 최근 ‘딥페이크 탐지 소프트웨어’를 개발해 디지털 성범죄, 허위조작 정보 등 각종 범죄에 선제적으로 대응하고 있다.
최근에는 합성에 필요한 사진이나 영상 원본이 없어도 범죄자가 입력창에 원하는 결과물이 어떤 것인지 입력하면 AI가 그에 따른 사진이나 영상을 곧바로 만들어내는 단계에 이르렀다. 기술 발전의 부작용이 범죄 진입장벽을 허무는 부작용이 나타나고 있는 것이다.
2일은 경찰청 ‘사이버범죄 예방의 날’ 10주년이다. 2015년 숫자 4·2의 음독이 사이버(Cyber)와 유사하다는 데 착안해 기념일로 지정했다. 사이버범죄 수사에 집중됐던 경찰의 대응체계를 예방으로까지 확대했다는 데 의의가 있다.
사이버범죄가 발생할 수 있는 온·오프라인상 외연이 확장된 상황에서 범죄 예방을 위한 노력은 경찰만의 몫이 아닌 우리 모두가 함께 가야 할 길이다. 경찰은 사이버 공간의 위협 요소들이 현실 세계로 이전되는 상황들을 사전에 탐지하고자 사이버범죄 수사와 예방을 아우르는 정책을 수립하고 전략적으로 신종 범죄에 대응하고 있다.
그러나 AI 기술의 영향력을 고려한다면 민간에서는 AI 악용 신종 범죄를 역으로 탐지하는 기술 등을 적극 개발해야 한다. 또 AI 사업자와 서비스 이용자를 대상으로 하는 범죄 예방 및 윤리 교육도 의무화되어야 한다. ‘양날의 검’인 AI가 안전한 미래 사회를 실현하는 선한 기술로 정착할 수 있도록 우리 모두 신중하고 깊이 있는 논의를 시작해야 할 때다.
김광식 경찰청 사이버수사심의관
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
