실제 사람이 쓴 것 같은 댓글을 생성해 대신 달아주는 인공지능(AI) 프로그램이 단돈 80만원에 시판되고 있는 것으로 파악됐다. 특히 ‘선거용’으로 이 프로그램을 찾는 이들이 적지 않다는 사실이 알려지며 여론조작 논란이 일고 있다.
16일 정치권에 따르면 개발자 A씨는 ‘블로그용 댓글 AI 프로그램’을 개발해 판매하고 있다.
이 프로그램은 생성형 인공지능을 활용한 댓글 프로그램이다. 실제 사람이 쓴 댓글 수백만건을 자동으로 학습해 사람이 쓸 법한 말과 글을 조합하고 이를 댓글로 달아준다.
실제 프로그램에 있는 ‘시작’ 버튼을 누르자 0.1초 만에 “양당 지도자 간 선호도 격차가 좁혀져 올해 경쟁은 더욱 뜨거워질 것”이란 문장이 나타났다. 차기 정치지도자 선호도에 관련된 기사를 읽고 인터넷을 뒤진 뒤 인간이 쓸법한 댓글을 만들어 단 것이다.
문제는 이런 프로그램이 선거 여론을 조작하는 데 쓰일 가능성이 있다는 점이다. A씨는 ‘정치 뉴스 댓글 생성 프로그램을 만들어달라’는 언론 요청에 “챗 GPT에 연결하면 80만원이면 가능하다”고 답신을 보내왔다.
그러면서 “선거철에 많이들 찾으신다”며 “20만원을 더 내면 추적을 피해 해외 서버도 이용할 수 있다”고 강조했다.
이런 ‘최첨단’ 여론조작 수법은 과거 킹크랩 프로그램을 이용해 선거 여론을 조작했던 드루킹 사건과 유사하지만 훨씬 고도화됐다.
특히 이처럼 AI가 단 댓글에 대해서는 현행 선거법상 처벌하기가 어려울 수 있다는 점이 난제로 꼽힌다. 개정선거법이 AI 생성 댓글 관련 사항을 다루지 않는 탓이다.
중앙선거관리위원회 관계자는 언론 인터뷰에서 “AI가 댓글을 썼다면 개정 선거법에는 적용되지 않는다”고 말했다.
인터넷 뉴스 시장의 80% 이상을 점유한 네이버는 “정상적이지 않은 이용 패턴을 AI로 탐지해 조치하고 있다”며 여론조작 가능성을 낮게 봤지만, 정치권에서는 여전히 우려가 적지 않다. 지난 대선에서 0.7%p 차이로 여야의 희비가 갈렸던 만큼 사소한 여론 변동도 큰 격차를 가져올 것이란 우려다.
댓글 내용의 진위 여부를 구별할 능력이 없는 AI가 조직적인 가짜뉴스 살포의 통로로 변질될 가능성도 있다.
해외에서는 이미 생성형 AI의 이 같은 부작용이 확인됐다. 지난해 미국에서는 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 자신을 체포하려는 경찰관들과 사투를 벌이는 사진이 온라인상에 퍼졌다. 그러자 공화당 전국위원회는 ‘조 바이든 대통령이 재선에 성공할 경우 벌어질 재난’을 합성해 유포했다. 지난해 11월 일본에서는 기시다 후미오 총리가 성적인 발언을 하는 영상이 퍼져 일본 사회가 발칵 뒤집혔는데, 알고 보니 AI로 만든 가짜 영상이었다.
김지훈 기자 germany@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
