모두가 인공지능(AI)의 가능성과 미래에 환호하고 있다. 챗GPT가 내놓는 대답에 감탄하고, AI 기반의 자율주행 서비스가 가져올 미래에 한껏 꿈이 부풀어 있다. 우리의 상상 속 AI는 인간의 뇌를 연상시키는 복잡한 신경망이나 수많은 정보가 모여 있는 새하얀 구름의 이미지를 갖고 있다. 하지만 우리가 잊고 있는 것이 있었다. AI의 이면에 인간의 노동이 자리 잡고 있다는 점이다.
책의 저자인 영국 옥스퍼드대 인터넷연구소 연구진은 지난 10년간 30여개국을 돌며 AI와 연관된 일을 하고 있는 200명 이상의 다양한 사람들을 만났다. 그들을 통해 AI의 화려함 뒤에 숨겨진 진실을 파헤친다. 저자들은 우선 AI를 바라보는 관점의 전환을 촉구한다. AI는 ‘인공지능’이라는 단어 자체에서 알 수 있듯 인간의 사고 과정을 재현함으로써 ‘지능을 해결하려는 시도’라고 할 수 있다. 하지만 저자들은 AI를 ‘스스로 학습하는 똑똑한 기계’라기보다 보이지 않는 인간의 지식과 노동, 자원을 빨아들여 작동하는 거대한 ‘추출 기계’로 바라본다. 저자들은 이렇게 정리한다. “기계는 인간을 먹고 자란다. 그것은 우리의 노동, 우리의 창작, 우리의 시간을 삼킨다. 그리고 그것을 데이터와 통계로 바꿔 다시 우리에게 돌려준다.”
추출 기계를 먹여 살리는 가장 기본적인 것은 ‘데이터 노동’이라고 불리는 인간의 노동이다. 데이터를 분류해 알고리즘이 학습할 수 있도록 돕는 ‘데이터 주석 작업’이 대표적이다. AI 모델을 훈련하려면 엄청난 양의 데이터가 필요하지만 데이터 노동자들이 데이터를 정리하고 꼬리표를 붙여야만 AI가 이해할 수 있다. AI 훈련에 필요한 시간의 80%가량은 이런 데이터 주석 작업이 차지한다. 주로 데이터 노동은 아프리카 저개발 국가 노동자들이 동원된다. 이들은 시급 2달러(약 2700원)에도 못 미치는 임금을 받으며 더 많은 일을 더 빠르게 처리하게 만드는 시스템 속에서 장시간 노동에 시달리고 있다. 책에는 SNS에 올라온 게시물 가운데 혐오와 폭력 장면을 걸러내는 ‘콘텐츠 검수자’로 일하는 케냐의 한 여성 노동자의 충격적인 이야기도 나온다. 하루 10시간, 55초마다 하나의 신고 영상을 확인해야 하는 그는 영상 가운데 자신의 할아버지가 교통사고를 당하는 장면을 확인한다. 고통과 충격 속에서도 하루 목표를 채우기 위해서는 다음 영상으로 넘어가야 한다. 그의 감정과 고통은 노동 착취의 현장에서 애초부터 고려 대상이 아니다. 저자들은 “AI의 미래에 대한 논의가 주류를 이루는 상황에서 현재 AI 산업을 실제로 지탱하고 있는 노동자들의 존재와 그들이 처한 현실이 가려지고 있다”고 우려한다.
AI 관리 시스템에서 보이는 노동 착취의 모습은 어느 날 갑자기 생겨난 것이 아니다. 저자들은 “과거의 공장, 집단 농장 등에서 사용된 노동 통제 방식의 연장선에 놓여 있다”면서 “AI의 글로벌 생산 네트워크는 약탈적이고 불공정한 무역 협정을 통해 자원을 수탈했던 식민주의적 질서를 답습하고 있다”고 지적한다. 식민주의 시대와 마찬가지로 AI 생산 네트워크에서도 미국 등 주요 선진국들은 주변부 국가들로부터 노동력, 핵심 광물, 데이터를 수탈하며 자신들의 부와 권력을 유지하고 있다는 것이다.
AI는 공정할 것이라는 생각도 착각일 뿐이다. 저자들은 AI가 가치 중립적이고 편향이 없다고 가정하는 것에 대해서도 우려를 나타낸다. 인터넷에서 무작위로 수집한 데이터를 기반으로 학습하는 AI 모델들은 이미 인종차별, 성차별, 세대 차별적 사회적 편견이 스며들어 있다. 실제 한 심리학자가 AI 프로그램에 인종과 성별을 기준으로 ‘좋은 과학자’를 분류하는 프로그램 작성을 지시하자 ‘백인이고 남성인 과학자’를 ‘좋다’고 분류하는 결과를 제시했다고 한다.
이런 알고리즘의 편향성은 실제 삶에도 영향을 미칠 수 있다. 미국에서는 주택담보대출 심사에서 인종 차별이 존재한다는 지적에 AI를 통한 자동화된 시스템을 도입했지만 오히려 기존 차별을 그대로 반영하거나 심화시킬 수 있다는 경고가 나왔다. 네덜란드의 한 지방 정부는 복지 혜택의 부정 수급 문제를 해결하기 위해 알고리즘을 개발했지만, 여성이거나 편부모, 네덜란드어를 유창하게 구사하지 않으면 부정 수급 가능성이 더 높게 평가되는 경향을 보인다는 조사도 있었다. 저자들은 “AI가 기존의 사회적 문제를 해결하기보다는 오히려 그 문제를 더욱 확산시킬 위험이 있다”고 지적한다.
책은 또 자신의 목소리가 무단으로 복제돼 AI 음성 합성에 사용되고 있는 한 성우의 이야기로 시작해 AI 예술 작품에 대한 통찰의 기회도 제공한다. AI는 창작 과정에서 훌륭한 도구로 활용될 수 있다. 그림을 예로 든다면 재능이 없더라도 아이디어만 있다면 누구나 AI의 도움으로 독창적이고 훌륭한 작품을 만들 수 있는 세상이 됐다. 하지만 창작 활동에 AI를 지나치게 의존할 경우에는 얘기가 달라진다. 저자들은 AI가 예술을 장악한다면 창작의 기준점은 과거의 작품에만 의존하는 결과를 낳고, 그 결과는 창의성의 쇠퇴로 이어질 수 있다는 점을 지적한다. 저자들은 이와 함께 AI가 소수의 거대 기업이 장악하고 있는 현실 속에서, “AI가 전 세계 예술가들이 희생되고 소수의 부유한 이들의 이익만을 채우는 수단으로 전락할 가능성이 크다”고 우려한다.
AI가 필연적으로 착취와 불평등을 심화시키는 방향으로 나아가라는 법은 없다. 변화란 얼마든지 가능하다. 저자들은 그 시작이 ‘추출 기계’ AI의 숨겨진 진실을 직시하는 것이라고 말한다. “지금과 같은 상태를 그저 그대로 두고 볼 수는 없다”는 깨달음이 있어야 행동에 나설 수 있다.
⊙ 세·줄·평★ ★ ★
·AI도 결국 기계다
·화려함 속에 가려진 AI의 추악한 이면을 선명하게 드러낸다
·AI의 전반적인 역사와 작동 방식을 이해하는 데 도움이 된다
맹경환 선임기자 khmaeng@kmib.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재, 수집, 재배포 및 AI학습 이용 금지
