암호화 메신저 텔레그램에서 여학생들의 SNS 사진을 이용한 딥페이크 음란물이 조직적으로 제작되고 있어 충격을 준 가운데, 이재명 더불어민주당 대표의 ‘딥페이크 규제’ 대선 공약이 재주목받고 있다.
27일 정치권에 따르면 이 대표는 민주당 대선 후보이던 2021년 12월 당시 페이스북을 통해 20번째 ‘소확행 공약’으로 ‘딥페이크 허위영상물 처벌’을 내세웠다.
이 대표는 “합성 음란물 제작·유포, 보이스피싱 사기 등 심각한 인권침해와 범죄 행위에 강력히 대처해야 한다”며 “미국 대선 투표 독려 김정은 위원장 합성 영상, 트럼프 대통령을 비난하는 가짜 오바마 대통령 영상 사례처럼 딥페이크 가짜뉴스는 당장 이번 우리 대선에서도 유권자 선택을 왜곡할 수 있는 심각한 위협”이라고 밝혔다.
이 대표는 “딥페이크 가짜 영상 식별 기술 개발, 검찰·경찰·선관위 등 공적 역량 강화, 딥페이크 사기와 유포에 대한 교육 등 대응 능력을 키우겠다”며 “지난 미국 대선 사례처럼 우리 대선에도 ‘악의적 딥페이크 가짜 영상’이 난무하지 않도록 플랫폼 기업들의 민간 자율 규제 강화를 요구하겠다”고 예고했다.
그는 그러면서 “악의적 딥페이크 허위영상물 제작·유호는 물론 소지·구입·저장 행위도 강력 처벌하겠다”며 “딥페이크 인권침해로부터 국민을 지키겠다”고 약속했다.
현재 텔레그램상에서는 전국 학교별 단체메신저방을 통해 여학생들의 얼굴을 음란물과 합성한 딥페이크 영상·사진이 퍼지고 있어 파문이 일고 있다. 한 방에 최대 수천명이 참여하는 등 규모도 작지 않다.
가해자들은 주로 인스타그램 등 SNS에서 지인들의 사진을 내려받아 음란물 합성에 이용하는 것으로 알려졌다. 이 때문에 일각에서는 “SNS 사진을 전부 내리라” 등 미봉책을 제시하고 있지만 근본적인 해결책은 되지 못하고 있다.
한편 AI(인공지능) 기술이 고의적으로 악용되는 것을 막기 위한 ‘인공지능 산업 육성 및 신뢰 확보에 관한 법률안’ 등은 제21대 국회에서 임기 만료로 대부분 폐기됐다. 이번 국회에서 재발의된 법안들도 여전히 계류 중이다.
김지훈 기자 germany@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
