대학생 유모(25)씨는 지난 학기 전공 수업 보고서 제출을 앞두고 당황스러운 일을 겪었다. 인공지능(AI) 도움 없이 본인이 직접 쓴 글이었지만 ‘AI 판독 프로그램’에 넣어보니 AI 사용 의심률이 81%로 나왔기 때문이다. 유씨는 “억울했지만 점수에 불이익을 받을까 걱정돼 문장 어순을 바꾸고 쉬운 표현으로 다듬는 수정 작업을 거쳤다”고 말했다.
2023년 각종 생성형 AI의 본격적인 등장과 함께 AI 판독 프로그램도 우후죽순 생겨났다. 업체들은 AI가 쓴 글을 골라낼 수 있다며 95~99%의 정확도(내부 테스트 결과)를 내세웠다. 그런데 사람이 쓴 글까지 AI가 작성했다고 판별하는 ‘오판독’의 함정이 발생하며 이용자들 사이 불만의 목소리가 이어지고 있다.
AI 판독 프로그램은 인간과 AI의 언어 패턴에 차이가 있다는 점을 이용한다. 인간과 달리 생성형 AI는 확률적으로 가장 적합한 단어와 문장을 이어붙여 답변을 생성하는 경향이 있다. 이 점을 계산해 예측 가능한 단어와 문장 흐름, 문장 길이 등을 기준으로 AI 작성 여부를 판별하는 것이다.
대학에서 마련한 교수·강사 가이드라인에도 GPT제로, 디텍트GPT, 오리지널리티AI 등 다양한 AI 판독 프로그램이 소개돼 있다. 그러나 챗GPT로 작성한 글을 해당 프로그램에 입력해보니 인간이 작성했을 확률이 98~100%라는 결과가 나오는 등 신빙성에 의구심이 따라붙는다.
국내 AI 기업 무하유는 2023년 GPT킬러를 출시했다. 회사 측은 이를 통해 문서 유형별 전용 모듈을 이용해 과제물, 자기소개서, 논문 등의 세부 분석이 가능하며 정확도가 98%에 이른다고 홍보하고 있다. 무하유 관계자는 “해당 기술을 공신력 있게 평가할 수 있는 외부 기관이 없는 상황으로 지속적인 내부 테스트와 성능 개선을 통해 신뢰도를 높이고 있다”고 설명했다.
무하유는 지난 7월 고교 생활기록부 전용 GPT킬러도 출시했다. 많은 교사들이 학생부 작성 시 AI를 활용함에 따라 대학 측에서 제작을 요청한 것이다. 현재 80여개가 넘는 대학에서 해당 프로그램을 도입하고 있다.
다만 최근 교육부가 학생부 작성 시 교사의 AI 활용을 전면 허용하면서 학생과 학부모의 혼란이 커지고 있다. AI를 쓰는 교사와 AI를 검사하는 대학 사이 명확한 입시 전략을 세우기 어려워진 것이다.
대학들은 단순 AI 사용만으로는 불이익을 주지 않는다는 입장이다. 학생부 작성에 AI 사용이 허용된 만큼 서술 표현 자체보다 내용의 진위성, 구체성 등을 중점적으로 확인하고 있다는 것이다. 다만 한 사립대 입학처 관계자는 “과장·허위가 의심되는 경우 학교·학생에게 추가 자료를 요청하거나 면접 등에서 확인 절차를 진행할 계획”이라고 말했다.
박진호 동국대 컴퓨터·AI학부 교수는 “AI가 발전할수록 판독 프로그램도 업데이트를 거치며 정확도가 높아지겠지만 100%에 도달하는 것은 실질적으로 어려운 일”이라며 “AI 워터마크(식별 표시), AI 기본법, 윤리 의식 등의 고도화가 병행돼야 한다”고 말했다.
양윤선 기자 sun@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
