지난 27일 서울 한 중학교 교사 A씨는 자신의 사진이 텔레그램에 유출됐다는 학생 신고를 받았다. 확인 결과 재학생뿐 아니라 졸업생들 사진까지 SNS상에 올라와 있었다. 학교 졸업앨범 한 페이지 전체가 텔레그램 대화방에 공유된 것으로 파악됐다.
이 사진을 활용한 딥페이크(불법 합성물) 범죄가 벌어지지는 않았다. 그러나 텔레그램을 통해 1000원만 내면 5초 만에 딥페이크 음란물 합성이 가능한 상황에서 이 사진이 악용될 가능성을 배제할 수 없다. 실제로 해당 학교 학생들은 온라인상에 노출된 졸업 사진이 언제 어떻게 쓰일지 몰라 불안해하는 것으로 전해졌다.
하지만 A씨는 학생들에게 별다른 대응 지침을 내릴 수 없었다. 일단 기다려보자는 말만 되풀이했다. A씨는 “학교 측으로부터 딥페이크 음란물 유포 범죄에 어떤 식으로 대응하라는 공지가 없어 일단 학생이 신고한 사진만 접수했다”고 말했다.
그나마 A씨는 평소 SNS에 친숙해 피해를 우려하는 학생들에게 계정 보안 단계를 높이고, 접속 기록부터 수시로 확인하라는 조언을 했다. 다만 A씨는 “담임 교사가 고령이거나 아예 SNS를 사용하지 않을 경우에는 이런 조언조차 하기 어렵다”며 “텔레그램을 비롯한 새로운 SNS 사용법에 대해 교육받을 기회가 없어 계정을 비공개하는 방법도 교사들이 스스로 알아봐야 하는 실정”이라고 토로했다.
10대 학생을 대상으로 하는 딥페이크 범죄는 이미 심각한 수준이다. 교육부에 따르면 올해 1월부터 지난 27일까지 196건의 딥페이크 피해 신고가 접수됐다. 피해자는 초등학생 8명, 중학생 100명, 고등학생 78명과 교직원 10명이었다. 실제 피해 규모는 더 클 수 있다. 이날 전국교직원노동조합에 접수된 딥페이크 피해 사례는 1400건을 넘었다.
한국여성인권진흥원 ‘디지털 성범죄 피해자 지원센터’에도 지난 1월부터 지난 25일까지 781건의 피해 지원 요청이 들어왔다. 이 가운데 36.9%(288명)가 10대 이하가 피해를 본 경우였다.
정부는 부랴부랴 대책 마련에 나섰다. 교육부는 텔레그램 등의 메신저를 이용한 딥페이크 피해 관련 긴급 전담 태스크포스(TF)를 운영한다고 28일 밝혔다. TF는 학교 딥페이크 관련 사안을 매주 1회 조사하게 된다. 또 피해로 충격이 큰 위기 학생에게는 외부 전문기관을 연계해주고, 정신건강 관련 진료·치료비를 최대 300만원까지 지원한다. 교육 당국은 가해자에 대한 강력 처벌도 예고했다.
경찰도 관련 수사에 속도를 내고 있다. 서울경찰청 사이버수사대는 28일 기준 딥페이크 음란물을 자동 생성하는 텔레그램 프로그램(봇) 8개에 대해 내사하고 있다. 지난 26일 22만7000여명이 이용한 것으로 추정되는 텔레그램 봇 내사에 착수한 지 이틀 만에 내사 대상이 8배로 늘어난 셈이다. 서울경찰청은 향후 7개월간 딥페이크 TF도 따로 만들어 운영키로 했다.
전문가들은 딥페이크 관련 교육이 충분히 이뤄지지 않은 점을 문제로 지적한다. 박주호 한양대 교육학과 교수는 “학생들이 딥페이크 범죄가 큰 문제라는 것에 대한 별다른 교육을 받은 적이 없고, 학교와 교사들도 교내 딥페이크 문제 해결을 위한 마땅한 대책이 없는 상황”이라며 “교육 당국이 딥페이크와 AI 관련 윤리 교육 도입도 검토해야 한다”고 말했다.
한웅희 최원준 기자 han@kmib.co.kr