수학 역사 이해하면 ‘넘버랜드’ 문 열린다

신기한 수학 나라의 알렉스/알렉스 벨로스/까치

현대인은 숫자 1과 2 사이의 거리가 9와 10간 거리와 똑같다고 생각한다. 당연한 얘기다. ‘2-1=1’ ‘10-9=1’이어서 1과 2 사이의 거리는 1로 9와 10 사이의 거리와 동일해야 마땅하다. 적어도 수학적으로는 그렇다.

브라질 원시부족 실험결과는 인간의 수(數) 개념에 대해 다른 말을 한다. 문두루쿠 원주민은 1과 2, 2와 3 사이의 거리가 8과 9, 혹은 9와 10 사이의 거리보다 멀다고 느낀다. 작은 숫자일수록 간격이 멀게, 큰 숫자는 가깝게 느낀다는 얘기다. 그건 마치 가까운 나무는 크게, 먼 나무는 작게 보는, 인간의 거리 지각 시스템과 비슷하다. 흥미롭게도 유치원생의 수 개념은 문두루쿠 족과 흡사했다. 둘의 공통점은? 둘 다 수학을 배우지 않았다.

‘인간에게 수(數)의 본능이 있는가’는 언어본능의 존재만큼이나 과학자들을 애달프게 해온 질문이다. 문두루쿠 원주민을 상대로 한 실험은 인간의 선천적 수 본능이 개념보다는 어림이나 비율에 가깝다는 사실을 알려준다. 인간 두뇌는 숫자가 4∼5를 넘어서면 혼란에 빠진다. 무리 진 사람들이 4∼5명을 넘어서면 한눈에 몇 사람인지 세지 못하는 이유다.

대신 100명과 130명 중 어느 집단이 더 숫자가 많은지는 쉽게 파악한다. 그건 야생의 생존능력과 관련 있는지 모른다. 두 그루 야자수의 열매 숫자를 비교하거나, 상대 부족 전사(戰士)의 숫자를 아군 수와 비교해 승패를 점치는 것이 야자열매가 10개인지, 11개인지 세는 것보다 생존에 더 긴요했기 때문일 것이다.

사람들이 백만장자와 억만장자를 비슷하게 ‘부자’라는 뜻으로 쓰는 이유. 거기에도 숫자가 커질수록 차이에 둔감해지는 수 본능의 실수가 숨어 있다. A는 한 달에 100달러, B는 1만 달러, C는 100만 달러를 번다고 해보자. 셋의 소득 차는 각각 100배씩이다. 그러나 100배의 차이가 난다고 해서 A, B와 B, C 소득의 절대적 격차가 같은 건 아니다. B는 A보다 ‘많이’ 잘 살뿐이지만 C는 B보다 ‘천문학적으로 많이’ 잘사는 것이다.

여전히 실수는 많지만, 그래도 인간의 수세기 능력은 비약적으로 발전해왔다. 수학 시대 이전에 인간이 고작 1, 2, 3 정도를 세고 살았을 거라는 짐작은 언어에 흔적으로 남아 있다. 프랑스어에서 ‘3(trois)’은 ‘많다’의 흔적인 강조어 ‘아주(tr멫s)’에서 나왔다. 짐작컨대 과거 어느 시점까지 인간에겐 3 이상의 수를 세는 게 무의미했는지 모른다.

저자 알렉스 벨로스는 책에서 수학을 ‘넘버랜드’라고 부른다. 이해 불가능한 ‘이상한 나라’라는 뜻이다. 돌이켜보면 수학이 넘버랜드가 된 건 그곳에서 쓰는 언어에 무지했기 때문이다. 저자가 제시하는 해결책은 넘버랜드의 초창기로 거슬러 올라가 수학나라의 언어와 규칙이 어떤 과정과 논쟁을 거쳐 생겼는지 설명하는 방식이다. 큰 그림을 그리면, 이상한 나라로 가는 비밀의 문은 의외로 쉽게 열린다.

그렇다고 책 읽고 새삼 미적분을 풀자는 얘기는 아니다. 평면의 유클리드 기하학과 쌍곡면의 비유클리드 기하학의 차이 같은 기막히게 어려운 수학적 난제도 고민의 시작부터 차근히 짚으면 마냥 이해 못할 문제만도 아니다. 독서가 준 소득은 이런 깨달음이다. 수 개념과 수 세는 문화, 0과 원주율(파이)이 등장하는 과정 등을 오리가미(종이접기)와 코바늘뜨기, 주산 같은 일상의 얘기로 푼 것도 매력이다. 김명남 옮김.

이영미 기자 ymlee@kmib.co.kr