“우리 시대의 가장 영향력이 큰 변화 중 하나는 삶의 거의 모든 측면을 전복시키고 있는 디지털 기술의 물결이다. 일과 여가, 가족과 우정, 지역 사회와 시민권 등이 이제 도처에 편재한 디지털 도구와 플랫폼에 의해 재편됐다.”
미국 실리콘밸리의 젖줄인 스탠퍼드대에서 엔지니어와 벤처투자가를 상대로 공개 강의를 운영하는 교수들이 쓴 ‘시스템 에러’ 서문에 나오는 말이다. “가짜 뉴스가 진짜 뉴스보다 6배 더 빨리 퍼진다”는 연구로 유명한 데이터 과학자 시난 아랄 MIT 교수는 ‘하이프 머신’에서 코로나19로 이런 상황이 더욱 빨라졌다고 말한다.
“바이러스에 쫓긴 인류가 거리를 떠나 집으로 들어가면서 수십억 인구가 노트북과 스마트폰으로 몰려들었다.… 오프라인 세계가 멈춘 날, 온라인 세계는 디지털 산불로 활활 타올랐다.”
소셜 미디어와 빅테크, 디지털 기술은 우리의 현실을 장악했고 미래를 설계하고 있다. 하지만 디지털 기술에 대한 칭송이 점차 우려로 바뀌는 것도 분명하다. 가짜 뉴스, 민주주의 위기, 알고리즘의 오류와 편향, 밀려나는 노동자 등 기술이 초래하는 문제 목록은 갈수록 길어진다. 빅테크의 장밋빛 약속을 믿고 따라가면 되는 걸까. 아니면 이제부터라도 기술에 대한 통제를 시작해야 하는 걸까.
‘하이프 머신’과 ‘시스템 에러’는 이 질문을 논의한다. “소셜 미디어에 대해 제일 잘 아는 사람”으로 통하는 시난 아랄은 소셜 미디어의 내부와 배후를 속속들이 알려준다. 그가 만들어낸 ‘하이프 머신’이란 말은 ‘소셜 미디어가 만들어낸 실시간 커뮤니케이션 생태계’를 뜻한다.
시난 아랄은 ‘러시아의 개입은 미국 대선 결과를 바꿀 정도로 영향력이 컸을까’ ‘우리는 왜 가짜 뉴스에 그토록 끌리는 걸까’ ‘소셜 미디어가 어떻게 뇌에 영향을 주는가’ ‘하이프 머신은 우리를 정치적으로 양극화하는가’ 등 소셜 미디어와 관련된 중요한 질문을 거의 다 다룬다. 그에 따르면 “하이프 머신의 현재 구조는 대중의 지혜를 떠받치는 3개 기둥(독립성 다양성 평등성)을 뒤흔들어 집단지성에 이를 수 있는 우리의 능력을 위협하며 사회를 집단의 광기와 밀접히 관련된 양극화 및 불평등 상태로 몰아가고 있다.”
소셜 미디어가 정치적 양극화를 초래하는 구조를 보자. “먼저 우리는 페이스북상에서 다른 사람들을 팔로잉하면서 정치와 국제정세 같은 하드 뉴스에 제한적으로 노출된다. 그런 다음 뉴스피드 알고리즘을 통해 이런 양극화가 더 심화된다. 마지막으로 개인적 선택을 통해 우리가 접하는 콘텐츠는 더 제한되고 그 결과가 우리가 원하는 것을 주려는 하이프 머신에 피드백돼 다시 양극화가 심해지는 악순환이 일어난다.”
가짜 뉴스 전문가로서 딥페이크 기술 때문에 앞으로 가짜를 조작해내는 기술이 무서울 만큼 빠른 속도로 발전할 것이라는 우려도 전한다.
하지만 시난 아랄은 우리에게는 기술을 통제할 네 가지 지렛대(돈, 코드, 규범, 법)가 있다고 말한다. 그는 “우리는 소셜 기술을 통제할 비즈니스 모델과 경제적 인센티브를 어떻게 만들어낼 것인지 심사숙고해야 한다. 그 알고리즘을 설계할 소프트웨어 코드와 그 기술을 활용하는 데 필요한 규범 및 시장 실패를 막기 위해 시행할 법에 대해서도 신중히 생각해야 한다”면서 “하이프 머신과 인간의 관계를 변화시켜야 한다”고 주장한다.
‘시스템 에러’는 기술 시대를 주도하는 기술자들과 벤처투자자, 디지털 시대 시민을 위한 윤리학을 표방한다. 책은 “20세기가 경제와 금융의 시대였다면 21세기는 엔지니어링과 컴퓨터공학의 시대”라며 엔지니어 사고방식과 여기에 기반한 디지털 기술이 보여주는 책임·윤리의식 결핍과 비민주적·비인간적 특성을 집중적으로 비판한다.
기술자들은 최적화를 추구한다. 기술자들의 직업적 사고방식에서 출발한 최적화는 어느새 기술은 물론 사회를 지배하는 보편적 논리가 돼 간다. 비효율성은 해결해야 할 문제로만 인식된다. 최적화 논리는 효율 중시, 숫자 중시, 비정치성 등으로 이어진다. 이것이 민주주의를 약화하고 개인의 행복과 사회적 다양성을 위협한다.
책은 “기술의 미래를 엔지니어와 벤처투자자, 정치인들에게만 맡겨서는 안 된다”며 기술에 대한 규제가 민주주의를 방어하는 일이며 우리 앞에 이보다 중요한 과제는 없다고 주장한다.
김남중 선임기자 njkim@kmib.co.kr