인공지능(AI)이 발달하면서 딥페이크 관련 범죄도 늘고 있다. 특정 인물의 얼굴, 목소리, 또는 행동을 정교하게 합성하거나 변경해 악용하는 범죄가 증가하며 우려의 목소리도 높아지고 있다. 이런 가운데 딥페이크를 잡아내는 스타트업들이 주목받고 있다.
2일 스타트업업계에 따르면 AI로 만든 딥페이크 이미지와 영상, 글을 잡아내는 솔루션 제공 스타트업들이 활발하게 활동하고 있다. 딥페이크 기술은 주로 성범죄와 가짜뉴스 생성 등에 사용된다.
디지털 범죄 대응 전문 스타트업 ‘라바웨이브’는 증명사진 한 장으로 불법 유포된 이미지나 영상을 찾아내는 솔루션을 제공하고 있다. 특정 인물의 얼굴을 성적인 이미지나 영상물과 합성하는 ‘몸캠피싱’에 특화돼 있다. AI로 사진 속 얼굴을 분석해 피해자가 등장하는 것으로 의심되는 영상물과 이미지를 찾아내는 방식이다. 유포되는 영상물과 이미지는 자체 빅데이터 업데이트를 통해 확보된다. 라바웨이브가 자체 개발한 CLC 시스템은 데이터베이스에 등록된 불법 성인 사이트와 디지털 성범죄자의 SNS 계정 등 특정 온라인 영역의 변동을 자동으로 실시간 감시한다. 불법 성인 사이트와 성범죄자 SNS 계정 등에 신규 영상 업로드 현황이 감지되면 라바웨이브 전담 대응 부서의 전방위적 분석 작업이 실시된다.
가짜 뉴스에 대응하는 스타트업도 등장했다. AI가 생성한 문장을 탐지하는 ‘카피킬러’ 운영사 ‘무하유’는 최근 한국콘텐츠진흥원과 가짜뉴스 근절 기술 개발에 나섰다. 기사를 유사도로 분석하고 생성형 AI를 활용해 저작물의 복제·인용·표절을 검증하는 기술을 개발하고 있다. 과학기술정보통신부의 대국민 설문조사에 따르면 응답자의 49.1%는 딥페이크 가짜뉴스를 판별할 수 없는 것으로 나타났다.
트래픽 및 리소스 매니지먼트 솔루션 스타트업 ‘에스티씨랩’은 딥페이크에 활용될 가능성이 높은 개인정보 유출 문제 근절에 집중하고 있다. 매크로를 활용한 개인정보 유출과 신원 도용을 막는다는 계획이다. 매크로는 특정 작업을 자동으로 수행하도록 만들어진 프로그램이다. 공연 티켓, 대학생 수강신청 등에 사용됐으나 최근에는 개인정보 탈취와 도용에도 악용되고 있다.
한편 지난해 1월 1일부터 10월 25일까지 경찰청에 딥페이크 성범죄 피해를 접수한 건수는 총 964건이다. 사이버 범죄 발생 건수는 2019년 18만499건에서 2022년 23만4098건으로 상승했다. 이후에도 비슷한 수준을 유지하다가 2023년 24만1842건을 기록했다.
한명오 기자 myungou@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
