“민희진 해임은 본사 몰래 레이블 빼돌리려던 거 걸려서 주주총회로 결정 난 거고…….”
언뜻 보기에는 한국어가 유창하고 한국 사회에 대한 이해가 어느 정도 있는 사람이 쓴 것처럼 보이는 이 댓글은 생성형 인공지능(AI)을 활용한 계정이 만든 허위정보다.
AI 기술의 급격한 발달과 함께 사람과 구분하기 어려운 AI 계정이 소셜미디어(SNS) 상에서 늘어나고 있다. 과거 활용된 자동 게시물 작성 기능인 봇(bot)과 달리 문맥을 이해하고 기초적인 대화가 가능한 수준의 AI 계정은 식별이 한층 까다롭다. 가짜뉴스 확산을 막기 위해서라도 AI 기본법을 시작으로 플랫폼에 AI 생성 게시물에 대한 책임을 부과하는 규제가 필요하다는 지적이다.
11일 업계에 따르면 엑스(X·옛 트위터)에서는 지난해 하반기 사용자들의 수익 창출을 적극 유도하는 방향으로 정책이 변경된 이후, AI 계정이 급증하고 있다. 국내에서도 지난 9월부터 수천개의 AI 계정이 만들어져 활동 중이다. 이들 계정은 자신을 인도 출신으로 밝히는 경우가 많고, 유료 구독 서비스인 ‘블루’를 이용해 X 이용자들에게 ‘인도파딱(파란딱지)’이라는 별칭으로 불린다. 이들은 조회수에 따라 배분받는 광고 수익을 노리고 인기 게시물 등에 답글을 도배하고 있다.
AI 계정은 SNS 실 사용자의 자유롭고 편리한 소통을 방해한다. X 사용자 정모씨는 “실제 이용자들의 다양한 멘션(답글)을 보는 재미가 컸는데, AI 계정의 등장으로 인해 이런 재미가 줄었다”고 말했다. X 이용자들은 대화의 문맥과 상관없는 질문을 던져 AI 계정 여부를 판별하거나 계정을 차단하는 방식으로 대응하고 있지만 그 수가 많아 어려움을 겪고 있다.
해외에서는 AI를 활용한 선거 개입 시도도 이뤄지고 있다. 미국 클렘슨대 연구진은 지난달 치러진 미국 대선 기간 X에서 AI를 이용한 가짜 계정 수백개가 도널드 트럼프 미국 대통령 당선인과 공화당을 지지하는 내용을 퍼트렸다는 연구 결과를 내놨다. 마이크로소프트가 지난 4월 발표한 연구 보고서에도 중국 정부와 연관된 SNS 이용자들이 AI가 생성한 가짜 오디오 클립 등을 활용해 대만 대선에 개입하려 했다는 내용이 담겼다.
이런 어뷰징(제도 악용) 행위를 막아야 할 X 측은 일론 머스크가 인수한 이후 인력이 대폭 줄며 대응하기에 벅찬 상황이다. 머스크는 인수 이후 X 전체 직원의 약 80%를 해고했다. X의 한국 지사인 트위터코리아의 정규직 인원도 지난해 2월 23명에서 현재 12명으로 반 토막이 났다.
전문가들은 현재 탄핵 정국으로 인해 국회 법제사법위원회 상정에 실패한 AI 기본법을 속히 통과시켜야 한다고 지적한다. 법안은 콘텐츠의 생성형 AI 활용 여부를 표시하도록 하는 절차를 마련하고, 해외 사업자도 국내 대리인을 지정해 책임을 지도록 하는 게 핵심이다. 최경진 한국인공지능법학회장(가천대 법학과 교수)는 “AI 기본법 통과 시 일정 수준 이상의 투명성 확보가 가능할 것”이라고 말했다.
윤준식 기자 semipro@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
