표절 검사 서비스 ‘카피킬러’로 잘 알려진 AI 전문기업 무하유는 최근 자사의 인공지능(AI) 탐지 서비스 ‘GPT킬러’ 사용량 통계를 공개했다. 결과를 보면 대학교 중간고사 시험이 집중된 지난달 GPT킬러 사용 건수는 64만7000여건으로, 지난해 10월 대비 약 3.9배 증가했다. 교수자용 AI 표절검사 서비스인 ‘CK브릿지’ 사용량 역시 지난해 10월 10만1000건에서 지난달에는 43만7000건으로 4.3배 급증했다. 학생들은 과제와 시험에 AI를 활용했다는 의혹을 피하려는 자기 검증 목적으로, 교수들은 AI가 작성한 글을 찾아내고자 각각 해당 서비스를 찾은 것으로 업체는 보고 있다.
AI 기술을 활용하는 이들이 늘어나면서 부작용 역시 사회 곳곳에서 발생하고 있다. AI에게 과제물 작성 등을 대신 시키거나 최근 대학가를 흔든 ‘AI 집단 커닝’ 사태 등이 대표적 사례다. 이미지, 영상, 음성 등 두 종류 이상의 데이터를 동시에 처리하는 ‘멀티모달 AI’ 기술이 발전하면서 딥페이크 피해 역시 갈수록 커지는 상황이다. 이와 동시에 AI의 ‘흔적’을 잡아내는 탐지 기술 역시 부각되고 있다.
2023년 1월 출시된 ‘GPT 제로’는 인간과 AI의 문체를 구별해 AI 활용 여부를 판단하는 도구다. 오픈 AI가 챗GPT 시범 버전을 발표한 뒤 불과 한 달 만인 2022년 12월 저작권 침해를 겨냥한 서비스를 내놓은 것이다. 수요 예측은 적중했다. 서비스 시작 4개월 만에 120만건의 다운로드 수를 기록했고, 이달 기준 전 세계 이용자 수가 1000만명을 돌파했다.
딥페이크 탐지 분야에서는 인텔의 ‘페이크캐처’가 선도 역할을 하고 있다. 2022년 개발된 페이크캐처는 영상 속 얼굴의 혈류 변화를 추적한다. 진짜 사람의 얼굴을 촬영했을 경우 얼굴 표면에 혈류로 인한 홍조 등이 감지되지만, AI가 만든 조작 영상에서는 이런 요소가 나타나지 않는다는 점에서 착안된 기술이다. 인텔 측은 수많은 게시물이 공유되는 소셜미디어(SNS)나 정확도가 생명인 미디어·언론 분야에서 해당 기술이 경쟁력을 가질 것으로 보고 있다.
국내에서는 딥브레인AI가 자체 탐지 솔루션 ‘AI 디텍터’로 성과를 내고 있다. AI 디텍터는 픽셀 단위 분석 기술을 바탕으로 영상, 음성, 이미지의 조작 여부를 구분한다. 업로드 단계에서 콘텐츠를 자동 검증해 불법 합성물의 확산을 사전에 차단하는 것도 가능하다. 별도 시스템 구축이 필요 없는 응용 프로그램 인터페이스(API) 형태로 제공돼 국내 최초로 관공서 대상 기술 상용화에 성공했다. 현재 금융, 교육 등 다양한 분야에서 활용되고 있다.
AI 활용 여부 검증 수요가 커지면서 관련 기술 시장도 성장세를 이어갈 것으로 전망된다. 시장조사기관 마켓앤마켓은 글로벌 AI 탐지 기술 시장 규모가 올해 5억8000만 달러(약 8442억원)에서 2030년 20억6000만 달러(약 3조원)까지 확대될 것으로 예측했다.
박선영 기자 pomme@kmib.co.kr