인공지능(AI) 기능 향상을 위해 거대 IT 기업에서 게시물과 이용자 정보를 무차별적으로 수집하는 사례가 늘고 있다. 문제는 여러 소셜 미디어나 AI 챗봇 서비스에서 이용자가 직접 데이터 활용을 원치 않는다는 의사를 밝혀야만 정보를 수집하지 않는 방식을 쓰는데, 약관 내용이 어렵고 거부 절차가 복잡하다는 점이다.
엑스(X·옛 트위터)를 즐겨 이용하는 직장인 최모(31)씨는 최근 알고리즘에 뜬 게시물을 보고 적잖이 놀랐다. 엑스 측이 따로 동의를 받지 않은 채 자사 생성형 인공지능 챗봇 ‘그록(Grok)’의 모델 학습에 이용자 게시물을 활용하고 있다는 내용이었다. 실제 엑스가 개인정보처리방침을 개정한 것은 지난해 10월이었지만 이용약관을 따로 읽어보지 않은 최씨는 이런 사실을 알지 못했다.
엑스는 AI 학습 동의와 관련해 ‘옵트아웃(Opt-out)’을 활용하고 있다. 옵트아웃이란 이용자가 자신의 데이터 활용을 허용하지 않는다고 명시할 때만 정보를 수집하지 않는 방식을 말한다. 엑스에서 AI 학습을 비활성화 하려면 3단계를 거쳐 ‘Grok 및 서드 파티 협력업체’ 항목을 찾아야 한다. 인스타그램과 페이스북 역시 항목 중 ‘Meta AI’를 찾아 이의 제기 제출 버튼을 눌러야 한다. 챗GPT는 개인 프로필에서 ‘데이터 제어’ 항목을 누른 뒤 ‘모든 사용자 대상 모델 개선’ 설정을 비활성화 해야 AI 학습이 중단된다.
엑스에 익숙한 최씨 역시 설정 항목이 너무 많고 표기가 모호해 AI 학습 동의를 철회하는 데 10분 이상이 걸렸다고 한다. 데이터 수집 자체를 몰랐던 이용자도 많다. 엑스에 자신의 창작물을 종종 올리던 한 이용자는 “프로필에 창작물을 AI 학습에 활용하지 말아달라고 명시해놨는데, 엑스는 이미 내 게시물을 가져다 쓰고 있었다”며 허탈감을 나타내기도 했다.
실제 이용자들은 본인의 데이터가 AI 학습에 활용되는 데 거부감을 느끼면서도 관련 방침에 대해서는 제대로 인지하지 못하고 있다. 개인정보보호위원회가 지난 3월 발간한 ‘개인정보보호 및 활용조사’ 보고서에 따르면 조사 대상자 2800명 중 76.1%는 AI가 유발할 수 있는 개인정보 관련 위험이 심각하다고 답했다. 반면 개인정보처리 동의 내용을 확인한다는 비율은 55.4%에 그쳤다. 동의 내용을 확인하지 않는 가장 큰 이유로는 이유로는 ‘내용이 많고 읽어도 이해가 안 가서’가 꼽혔다.
이에 이용자가 데이터 수집 거부를 보다 쉽게 할 수 있도록 절차를 개선해야한다는 목소리가 나온다. 개인정보보호위원회는 기업이 의도적으로 옵트아웃 기능을 숨기거나 알아보지 못하게 하는 경우 제재를 하고 있기도 하다. 서정아 위원회 대변인은 “옵트아웃과 관련해 용어를 모호하게 쓰거나 표기를 하더라도 해석하기 힘들다고 판단되는 경우 시정 명령 대상으로 분류한다”며 “지속적으로 이런 부분들에 대한 실태 점검을 진행하고 있다”고 설명했다.
박선영 기자 pomme@kmib.co.kr