‘핸드오버’는 인공지능(AI)이 국가나 기업과 비슷한 것이라는 흥미로운 주장을 담고 있다. 인간이 만들어낸 인공적 존재이며, 비인격적이고, 인간의 초월적 대리인 역할을 한다는 점에서 유사하다는 것이다.
17세기에 이미 철학자 토머스 홉스는 ‘리바이어던’이라는 책에서 국가를 자동 기계, 즉 거대한 인공 인간으로 묘사했다. 그러니까 인공 존재나 자동 기계와 동거해온 것, 비인간적이고 초인적인 인공물에 중요한 결정을 맡겨온 것이 인류에게 새로운 일이 아니라는 것이다.
우리는 AI에 대해 인간이 아닌 거대하고 강력한 기계가 인간의 운명을 결정할 수 있다고 우려한다. 하지만 우리는 이미 오래 전부터 중요한 결정을 국가에 맡겨 왔다. 국가가 전쟁을 결정하면 국민은 따를 수밖에 없다.
기업도 인공적 존재이고, 초인적 존재다. 기업이 늘 인간적인 결정을 하는 건 아니다. 기업에는 감정이 없고, 자체적인 논리에 따라 작동한다. 그런데 현대 세계는 이 기업들에 많은 일을 맡겨 놓았다.
저자 데이비드 런시먼은 영국 케임브리지대 정치학 교수로 그의 저서 ‘쿠데타, 대재앙, 정보권력’이 국내 출간돼 주목을 받았다. 런시먼은 새 책에서 AI와 국가·기업의 유사성을 탐구하면서 AI 시대란 국가와 기업이라는 오래된 대리인 외에 AI라는 또 하나의 강력한 대리인을 갖게 되는 것이라고 바라본다. 그는 국가와 기업이 AI와 결합하게 되면 인공 대리인들의 지배력이 더욱 강해지고, 인류의 운명에 대한 인간의 통제권이 완전히 상실될 수 있다고 경고한다.
김남중 선임기자