“아빠 친구가 내 자취방에”… 섬뜩한 ‘AI 몰카’ 장난

‘AI 몰래카메라 장난’(AIprank)이라는 새로운 유형의 콘텐츠가 유행하고 있다. 제미나이 같은 생성형 인공지능(AI)에 특정 인물과 공간이 담긴 사진을 활용해 ‘이 사람이 내 방 소파에 앉은 것처럼 합성해줘’ ‘내 욕실에서 샤워하고 있는 것처럼 만들어줘’ 식의 명령어를 입력해 조작 사진을 만든 뒤, 가족이나 연인이 놀라는 반응을 공유하는 콘텐츠다.

전문가들은 이 같은 선 넘은 장난이 단순 유희로 끝나지 않고 사회적 혼란을 불러올 수 있다고 경고하고 있다. 현실과 허구의 경계가 사라져 디지털 윤리의 후퇴를 야기하고, 초상권과 사생활 침해 문제까지 심각해질 수 있어서다. 정부와 플랫폼이 협력해 AI 합성물 탐지·표기 기술을 강화하고 허위 이미지 유통에 대한 명확한 가이드라인을 제시해야 한다는 의견도 나온다.

AI 몰카 콘텐츠는 틱톡 등 SNS를 중심으로 확산하고 있다. 틱톡 등에서 해시태그로 ‘#엄마속이기’ #아빠속이기’ ‘#남친속이기’ 등을 검색하면 관련 영상 수백 건이 등장한다. 대부분 “낯선 이가 집에 들어왔다”며 AI 조작 사진을 보내 가족·연인의 놀란 반응을 보여주는 내용이다. 당초 미국·영국 등에서는 노숙인 침입 사진으로 인기를 끌었는데 국내로 들어오면서 노숙인이 ‘아빠 친구’ ‘오빠 동기’ 등으로 바뀌어 더 자극적으로 유통되고 있다.

최근 구독자 55만명을 보유한 국내 한 커플 유튜버 채널에는 ‘요즘 핫한 AI 몰카 남자친구한테 해보기’라는 영상이 올라왔다. 게시자가 남자친구에게 보낸 사진은 부엌에 낯선 남자가 들어온 장면이었다. 게시자는 의문의 인물이 소파에 앉아 있는 장면, 탈의한 채 면도하는 장면, 침대에 누워 있는 장면을 전송했다. 그러자 남자친구는 크게 당황하며 게시자를 다그친다. 이후 AI 사진이라는 사실이 공개된 후 두 사람이 깔깔 웃는 장면으로 영상은 마무리된다. 또 다른 유명 틱톡 계정에는 아버지와 나눈 대화 캡처본이 올라왔다. 게시자는 ‘아빠 친구가 내 자취방에 왔어’ 등의 메시지와 함께 낯선 남성이 식탁에 앉아 있는 사진을 보냈다. 이를 확인한 아버지는 놀라서 전화했고, 이 영상 역시 웃음으로 막을 내렸다.


문제의 게시물에는 ‘어떻게 만든 사진인지 궁금하다’는 댓글이 쏟아졌다. 범죄를 희화화한 행위에 대한 경계심 대신 모방 심리가 발동된 것이다. 실제로 네이버 등 포털사이트에서는 ‘낯선 사람 침입 AI 이미지 만드는 법’ 같은 게시물을 다수 찾아볼 수 있다.


곽금주 서울대 심리학과 교수는 “인간은 무엇인가를 만들고 조작하려는 욕구가 있다”며 “특히 AI를 활용하면 특별한 기술 없이도 전문가 수준의 콘텐츠를 생산할 수 있어 모방 심리를 자극해 더 위험한 콘텐츠도 양산될 수 있다”고 지적했다.

AI 몰카 콘텐츠의 시작은 미국의 메신저 스냅챗 플러스가 유료로 제공하는 AI 사진 편집 기능인 것으로 추정된다. 이후 구글의 최신 AI 모델인 제미나이의 이미지 생성 기능이 접목되고 접근성이 좋아지면서 세계적인 트렌드가 된 것으로 보인다.

AI 장난이 폭발적 관심을 끌고 있다는 점은 통계로도 확인할 수 있다. 시장조사업체 시밀러웹에 따르면 제미나이의 지난 9월 월간 방문자는 전월보다 46% 증가한 11억명으로 집계됐다. 전문가들은 10월엔 방문자 규모가 더 커졌을 것으로 예상하고 있다.


선 넘은 장난 탓에 경찰이 출동하는 일도 빈번해지고 있다. 최근 BBC에 따르면 영국 도싯에서는 10대 소녀가 부모에게 ‘모르는 남자가 집에 들어왔다’며 AI 조작 사진을 보냈고 놀란 부모가 신고해 경찰이 출동하는 소동이 벌어졌다.

한국도 관련 신고가 점차 늘어나는 추세다. 최근 온라인에는 노숙자 침입 AI 조작 사진을 엄마에게 보냈다가 경찰이 출동했다는 사연이 재미있는 해프닝처럼 올라오기도 했다. 한 경찰 관계자는 “AI 조작 사진 탓에 신고가 접수되는 사례가 늘고 있다”며 “경찰 자원이 낭비되면 실제 범죄 대응에 공백이 발생할 수 있다”고 우려했다.

AI 조작 사진이 온라인에 퍼지면서 이를 사회적 문제로 인식해야 한다는 목소리도 커지는 분위기다. 최근 일부 연예인은 AI 조작 사진으로 타격을 입기도 했다. 배우 이이경은 한 외국 팬이 음란 대화를 조작해 올린 사진 탓에 곤욕을 치렀다. 한 50대 여성은 상대를 배우 이정재로 착각하게 만드는 AI 조작 사진에 속아 로맨스스캠(연애 빙자 사기)에 휘말리면서 수억원을 빼앗겼다.


해외도 마찬가지다. 최근 영국 일간 가디언에 따르면 한 영국인은 에어비앤비를 통해 미국 뉴욕의 한 아파트를 임차했다가 집주인으로부터 한국 돈 2000만원 상당의 배상청구서를 받았다. 집주인은 부서진 커피 테이블, 소변으로 얼룩진 매트리스 등의 사진을 보내 피해를 봤다고 주장했지만 모두 AI 조작 사진이었다.

AI 기술이 무분별하게 방치된다면 언젠간 현실과 허구의 경계가 사라질 수 있다고 전문가들은 경고하고 있다. 허위 정보 확산과 여론 왜곡을 초래할 수 있다는 것이다. 특히 “AI니까 괜찮다”는 태도는 디지털 윤리의 후퇴를 불러올 수 있다는 지적이 나온다. 곽 교수는 “무분별한 합성이 일반화되면 초상권과 사생활 침해 등 사회적 파문을 불러올 수밖에 없다”고 경고했다.

하지만 이 같은 현상을 다루는 법이나 제도는 여전히 미비한 상황이다. 경찰 관계자는 “관련 법안이 논의되고 있지만 ‘장난 수준의 합성물’은 처벌 기준이 모호해 난감한 경우가 많다”며 “AI 관련 윤리 교육 등이 이뤄져야 할 것”이라고 말했다.

박민지 기자 pmj@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지