수학의 노벨상 ‘필즈상’… 한국은 언제쯤

영화 ‘뷰티풀 마인드’는 미친 수학자에 대한 이야기다. 정신분열증을 앓던 존 내시 전 프린스턴대 교수의 삶이 담겨 있다. 아내의 극진한 보살핌으로 30년 만에 병을 이겨낸 내시는 1994년 ‘내시 균형’ ‘게임이론’ 등으로 노벨경제학상을 받았다.

그를 신경쇠약으로 몰아넣은 건 ‘리만 가설’이었다. 2, 3, 5, 7, 11, 13, 17 등 불규칙하게 나열되는 소수(素數·1과 자신으로만 나눌 수 있는 수)도 일정한 패턴이 있어서 그 개수를 구할 수 있다는 주장이다.

독일의 천재 수학자 베른하르트 리만이 1859년에 발표했다. 그런데 그는 고독벽(孤獨癖)이 있어 가설을 증명해놓고도 증거를 공개하지 않았다. 죽을 때 관련 서류마저 모두 불태워 세계 수학계의 최대 수수께끼가 됐다. 내시는 이 가설의 증명에 도전했다가 정신분열 증상을 겪었다.

당대 최고의 수학자로 꼽히던 내시는 프린스턴대 대학원생이던 22세 때 ‘내시 균형’ 이론을 고안했다. 모든 사람이 자신의 욕심을 위해 상대방을 고려하지 않는다면 모두 실패하게 된다는 게임의 법칙의 일종이다. 이 업적으로 30세이던 1958년 수학계에서 가장 권위 있는 ‘필즈상’을 받을 뻔했는데 ‘너무 젊다’는 이유로 제외됐다.

필즈상은 이렇게 수학 분야에서 획기적인 업적을 이룬 학자에게 수여되며 ‘수학의 노벨상’으로 불린다. 4년마다 40세 미만의 젊은 수학자 2∼4명에게 금으로 만든 메달과 함께 1만5000캐나다달러(약 1400만원)를 상금으로 준다.

내시 이야기처럼 20세기 이후 수학의 역사와 흐름은 필즈상과 긴밀하게 얽혀 있다. 캐나다 수학자 존 필즈의 노력으로 만들어진 필즈상은 4년마다 열리는 ‘세계수학자대회(ICM)’ 개회식에서 수상자를 발표하고 개최국 국가원수가 시상한다. ICM은 1897년 스위스에서 처음 열렸다. 2014년 ICM은 오는 13∼21일 서울 코엑스에서 열린다.

필즈상은 1998년 영국 수학자 앤드루 와일스가 수상 기회를 놓치면서 유명해졌다. 옥스퍼드대 교수인 와일스는 1637년 등장해 358년간 수학자들을 괴롭혔던 ‘페르마의 마지막 정리’를 증명했는데 그 연구를 마무리한 나이가 하필 41세였다. ‘40세 미만’이라는 엄격한 나이 제한 때문에 필즈 메달은 놓쳤지만 ICM은 특별상을 만들어 그에게 금메달 대신 ‘은패’를 안겼다.

필즈상이 처음 수여된 건 1936년이다. 2010년까지 17번 세계수학자대회가 열려 52명이 수상했다. 첫 수상자는 핀란드의 라르스 알포르스(당시 29세)와 미국의 제시 더글러스(당시 38세)였다. 2차 세계대전 이후 14년의 공백기를 거쳐 1950년 열린 두 번째 시상식에선 노르웨이의 지적 영웅으로 불리는 아틀레 셀베르그가 이 상을 받았다. ‘소수정리’ 등을 증명한 그는 “수학이 성장하고 축적되는 방법을 보면 실제로 수학자들이 하는 일은 예술에 더 가깝다”고 했다. 동양인이 처음 수상한 건 1954년이다. 일본 수학자 고다이라 구니히코가 역대 최연소 수상자인 프랑스의 장 피에르 세르(당시 27세)와 함께 필즈 메달을 목에 걸었다.

영화 ‘굿 윌 헌팅’에서 미국 매사추세츠 공대(MIT)의 청소부인 윌 헌팅(맷 데이먼)이 대학원생들도 어려워하는 문제를 풀어내는 장면이 나온다. 1962년 필즈상 수상자인 존 밀노어도 비슷한 경험을 했다. 프린스턴대 학생일 때 수업에 늦은 밀노어가 칠판에 적혀 있던 문제 3개 중 2개를 다음 수업에 풀어서 제출했는데 이건 당시 아무도 풀지 못한 수학계 난제 중 하나였다.

‘카타스트로피 이론’을 만들어낸 프랑스의 르네 통, 베트남 전쟁 중 하노이 숲속에서 수학 세미나를 열었던 알렉상드로 그로텡디크, ‘학문의 즐거움’을 쓴 일본의 히로나카 헤이스케, 마이크로소프트(MS) 연구소에서 양자 컴퓨터를 연구하는 마이클 프리드먼, 다큐멘터리 영화 ‘나는 왜 수학이 싫어졌는가’의 주인공 세드리크 빌라니 프랑스 리옹대 교수 등이 필즈상을 받았다.

1966년 미국 논리학자 폴 코헨은 수학자가 아닌데도 수상했다. 코헨은 ‘참도 거짓도 아닌 수학적 명제가 있다’는 걸 증명했다. ‘끈 이론’의 선구자 에드워드 위튼 프린스턴대 교수도 1990년 물리학자로 이 상을 받았다.

21세기 수학의 난제 ‘푸앙카레 추측’을 풀어낸 러시아 수학자 그레고리 페렐만은 40세이던 2006년 필즈상 수상자로 결정됐지만 메달과 상금을 거부한 것으로 유명하다. 소문난 괴짜였던 그는 수상 거부 이유로 “내 논문을 올바로 심사할 수학자가 없다고 보기 때문”이라고 말했다고 한다. 미국 클레이 연구소가 이 문제를 푸는 이에게 약속했던 상금 100만 달러도 거절한 그는 현재 어머니의 연금에 의지해 어렵게 생활하고 있는 것으로 알려졌다.

한국은 아직 필즈상 수상자를 배출하지 못했다. 논문 편수를 중시하는 풍토 탓에 국내 수학자들은 오랜 시간을 투자해야 하는 수학의 난제에 도전하기 꺼리는 경향이 있다고 한다. 수학 성적은 좋지만 수학을 싫어하는 학생이 많은 현상도 한국 수학의 성장을 가로막는 걸림돌로 지목된다.

서울ICM 조직위원장인 박형주 포스텍 교수는 “빅데이터, 증권통계, 암호체계, 컴퓨터 프로그램 등 수학은 현대의 일상에 매우 중요한 역할을 한다”며 “공식만 외우는 수학교육에서 벗어나 공식의 유래와 응용법을 가르치면 수학의 질적 성장을 이룰 수 있을 것”이라고 말했다.

문수정 기자 thursday@kmib.co.kr