100년의 난제 : 푸앵카레 추측은 어떻게 풀렸을까? - 필즈상을 거부하고 은둔한 기이한 천재 수학자 이야기

페렐만 박사!
푸앵카레 추측을 해결하고는
필즈상을 거부하다니, 미친 거 아닙니까?

■ 100년의 난제, 푸앵카레 추측은 우주공간의 형태에 대한 질문이다!

1904년 프랑스의 수학자 앙리 푸앵카레는 자신의 논문 「위상기학으로의 제 5보족」의 마지막에서 한 가지 질문을 던진다.

“마지막으로 반드시 검토해야 할 문제가 하나 남는다. 기본군(fundamental group)이 영인 3차원 다양체(3 dimentional simply connected manifold)가 3차원 구와 위상동형이 될 가능성이 있을까?”

이후 100여 년 동안 이 문제는 ‘푸앵카레 추측’이라는 별칭으로 불리며, 수많은 수학자들을 사로잡아 왔다. 과연 이 푸앵카레 추측이 무엇인가? 앞의 푸앵카레 자신이 남긴 표현은 일반 대중들에게는 너무도 생경한 수학 언어일 뿐이다. 파리 오르세 대학의 명예교수 발렌틴 포에나르 박사는 다음과 같이 설명한다.

“누군가 긴 밧줄을 잡고 우주여행을 떠났다고 상상해 보세요. 그 사람이 우주를 한 바퀴 돌고 무사히 지구로 돌아왔다고 칩시다. 그 때, 우주에 빙 두른 밧줄을 회수할 수 있다면 우주는 둥글다고 말할 수 있습니다. 이것을 오늘날 ‘푸앵카레 추측’이라고 하는 것입니다. …… 만일 아주 긴 밧줄을 모두 회수할 수 있다면 우주가 어떻게 생겼다고 말할 수 있을까요? 지금 현실에서는 불가능하지만, 우주 전체를 밖에서 볼 수 있다면, 하고 상상해 봅시다. 만일 밧줄을 회수할 수 있다면 지구와 마찬가지로 우주공간은 구멍이나 터진 곳 없이 그야말로 ‘동그랗다’고 말할 수 있지 않을까요? …… 그런데 만일 밧줄을 당겨서 회수할 수 없다면 어떨까요? 그때는 우주공간을 관통하는 거대한 구멍이 있다고 생각해야 할지 모릅니다. 이럴 때는 우주는 도넛 모양이지 동그랗다고 할 수 없습니다.”

이렇게 오로지 밧줄 하나로 우주의 모양이 둥근지 아닌지를 확인할 수 있다고 푸앵카레는 생각했고, 이것을 수학적으로 표현한 것이 푸앵카레 추측이다. 우주공간의 형태에 관한 질문인 이 푸앵카레 추측은 20세기 초의 수학자들에게는 지나치게 참신한 것이었고 1950년대에 와서야 수학자들의 본격적인 도전을 받게 된다.


■ 푸앵카레 추측을 해결하기 위해 자신의 모든 것을 바친 수학자들,
그들의 열정과 고통 속에서 만들어진 드라마!

1950년대 푸앵카레 추측 해결은 미국 뉴저지 주의 프린스턴 고등연구소를 중심으로 전개된다. 그곳에 그리스 출신의 수학자 크리스토스 파파키리아코풀로스가 있었다. 긴 이름 때문에 ‘파파’라는 애칭으로 불렸던 그는 푸앵카레 추측을 해결하는 데 발판이 되는 세 가지 중요한 정리를 해명함으로써 푸앵카레 추측 해결에 그 누구보다 바짝 다가가 있었다.
파파는 푸앵카레 추측에 자신의 모든 것을 다 걸었다. 아침 8시에 카페테리아에서 아침을 먹고 8시 30분에 연구를 시작한 다음 11시 30분에 점심을 먹은 후 12시부터 다시 연구에 몰두한다. 오후 3시에 커먼룸에 차를 마시러 왔다가 늘 앉는 자리에서 <뉴욕 타임스>를 읽고 4시에는 다시 연구실로 돌아가는 식으로 단 한 치의 어긋남도 없이 규칙적으로 생활하면서 푸앵카레 추측을 해결하기 위해 다른 모든 것을 제쳐 놓았다.
이 파파에게 젊은 라이벌이 생겼다. 당시 파파는 거의 푸앵카레 추측 증명에 가까이 다가갔다가 다시 오류를 발견하여 사람들 앞에 거의 모습을 드러내지 않기 시작한 때였다. 독일 출신 볼프강 하켄 박사의 푸앵카레 추측 증명 선언은 파파를 극도로 동요하게 만들었다. 하지만 증명은 마지막 순간에 무너졌고 파파는 하켄 박사에게 불같은 분노를 터트렸다. 곤경에 처한 하켄 박사는 푸앵카레 추측 자체가 잘못됐다고 믿게 되고, 추측이 틀렸다는 반례를 찾기 위해 컴퓨터를 사용하자는 아이디어를 낸다. 하켄 박사는 이후 컴퓨터를 이용하여 푸앵카레 추측이 아니라 ‘4색문제’를 해결하게 된다.
자신의 인생을 걸고 “푸앵카레 추측은 참이다.”라는 것을 증명하려고 애쓴 남자와 최신 과학 기술로 “추측은 거짓이다.”라는 것을 밝히려고 계획한 남자. 이 두 사람의 대결은 느닷없는 파파의 죽음으로 종지부를 찍는다. 파파의 아파트에는 쓰다 만 160쪽의 유고가 발견되었는데, 그 중 한 장에는 ‘푸앵카레 추측의 증명’이라는 제목이 붙어 있었지만 그 뒷장은 모두 공백이었다고 한다.
파파와 동시대에 역시 이 푸앵카레 추측 해결에 도전했던 존 스털링스 박사가 있다. 그 역시 푸앵카레 추측에 도전했던 수학자라면 누구나 느끼는 끝을 알 수 없는 공포 속에서 ‘어떻게 하면 푸앵카레 추측을 증명하지 못할까?’라는 제목의 논문을 썼다.

파파와 하켄, 스털링스 이 세 사람에겐, 더 나아가 50년대 푸앵카레 추측 해결에 도전했던 모든 수학자들에게 푸앵카레 추측은 허먼 멜빌의 소설 『모비 딕』에 나오는 거대한 흰 고래 모비 딕과 같은 것이었다. 잡아야 할 사냥감에서 어느새 맞겨룰 수 없는 요물로 바뀌어 모든 것을 잃게 하는 그런 대상이었던 것이다.
이 50년대의 모비 딕은 60년대 스티븐 스메일 박사와 80년대 윌리엄 서스턴 박사에 의해 4차원 이상에서의 증명이 완성되게 되었고, 마지막 관문인 푸앵카레 자신이 제기한 3차원에서의 증명만을 남겨두고 모든 난관을 뛰어넘는 위대한 천재 그리고리 페렐만을 기다리게 된다.

2000년 미국 클레이 수학연구소는 푸앵카레 추측을 비롯한 수학의 7대 미해결 문제 해결에 700만 달러의 현상금을 건다.
2002년 인터넷에 푸앵카레 추측을 증명한 페렐만의 논문이 게시된다.
2003년 MIT와 프린스턴 대학, 뉴욕 대학에서 페렐만의 푸앵카레 추측 증명에 대한 특별 강연이 열린다.
2005년 100년의 난제 푸앵카레 추측이 페렐만에의해 풀렸음이 6명의 수학자들에 의해 선언된다.
그리고 2006년 스페인의 마드리드에서 열림 국제수학연합 주최의 국제수학자대회에서 페렐만 박사가 필즈상 수상자로 발표되지만 페렐만은 수상을 거부하고 잠적한다. 현재까지 페렐만은 함께 살고 있는 가족을 제외한 그 누구와도 접촉을 일체 피하고 고향 상트페테르부르크에서 은둔하며 살고 있다. 최근의 그는 ‘다른 관심사’에 빠져 있다고 한다. 물론 그것은 또 다른 난제일 것이라 그의 말을 전한 이는 믿는다.


■ “100년 후에도 회자될 역사적인 사건의 현장과
수학자들의 꿈과 삶을 이해할 수 있는 최고의 책“ (감수자 조도상 교수)

『100년의 난제 푸앵카레 추측은 어떻게 풀렸을까?』는 본래 일본 NHK에서 방영된 다큐멘터리로 저자 가스가 마사히토는 이 작품의 프로듀서를 맡았다. 그는 푸앵카레 추측 해결의 궤적을 찾아 푸앵카레의 고향인 프랑스 낭시와 페렐만 박사가 은둔하고 있는 러시아 상트페테르부르크, 미국의 프린스턴 대학교와 UC버클리 등을 일주하며 푸앵카레 추측이라는 괴물에 도전한 수학자들의 순수한 열정과 고통이 만들어 낸 장대한 드라마를 추적하였다. 이 드라마는 ‘푸앵카레 추측’과 그 해결에 도전한 수학자들, 그리고 필즈상이 크게 삼각형의 꼭짓점을 이루고 있다.
푸앵카레 추측이 해결의 바로 마지막 종장을 장식한 필즈상은 수학계의 노벨상이라 불리는 상으로 수학자에게는 최고의 영예가 되는 상이다. 4년에 한 번 국제수학연맹이 주최하는 국제수학자대회가 열리고 그곳에서 수상자가 발표된다. 이 필즈상은 수학 분야에 노벨상과는 달리 수학 분야에만 한정되는 상이면서 40세 이하의 수학자에게만 수여되는 것이 특징이다. 2014년 우리나라에서도 이 세계수학자대회가 개최될 예정이고, 거기에서 이 영광의 필즈상 수상자가 발표될 것이다.
2006년 당시 한 번도 수상이 거부된 적이 없던 이 필즈상이 40세의 러시아 출신의 수학자 그리고리 페렐만에의해 거부된다. 미국의 클레이 수학연구소가 700만 달러의 현상금을 걸었던 7대 난제 중 가장 어려운 문제로 꼽혔던 ‘푸앵카레 추측’을 해결하고도 그 영예로운 상과 현상금을 거부하고 은둔해 버린 천재 수학자 페렐만 박사에 대한 소문은 어쩌면 당연하게도 무성하게 피어났다. 가장 미스터리한 소문은 그가 고향인 상트페테르부르크 숲에서 버섯을 따면서 지낸다는 것이다.

이러한 페렐만의 행동을 어떻게 이해해야 할까? 그럼 그는 왜 푸앵카레 추측을 해결한 것일까? 그저 천재의 보통 사람의 상식을 뛰어넘는 기이한 행동일까? 아니면 수학이라는 학문에 지나치게 빠진 나머지 미쳐 버린 것은 아닐까? 우리는 수학이라는 학문을, 수학자라는 사람들을 제대로 알고 있는 것일까? 왜 그들은 다른 모든 것을 버리고 난제에 도전하는가? 과연 난제는 어떤 것인가?
수학자들 스스로의 답은 이렇다. 수학을 위해서라면 목숨과 바꿔도 상관없다, 세상의 어떤 것도 사랑하는 수학에 비하면 보잘 것 없다고 생각한다는 발렌틴 포에나르 박사는 수학을 진정한 기쁨을 한 번이라도 맛보면 그 맛을 평생 잊지 못한다고 말한다. 그리고 수학의 매력은 수수께끼를 풀 때 느끼는 흥분 그 자체이며, 나이가 들어서도 이 수수께끼에 대한 흥미를 잃지 않은 사람 중에서 난제에 도전하는 수학자가 생긴다고 말하는 미하일 그로모프 박사가 있다. 또 수학자가 되어서야 비로소 있는 그대로의 자신으로 있을 수 있었다는 서스턴 박사는 수학이 그 신비한 힘으로 우리 눈앞의 세계를 채색해서 그 신비함을 천천히, 그리고 분명하게 드러나게 해준다고 말한다.

이 책은 바로 이 수학자들의 순수한 열정과 고통으로 가득 찬 삶을 통해서 수학이란 어떤 학문인지, 수학자가 끊임없이 난제에 도전하는 이유는 무엇인지에 대한 해답의 실마리를 던져줄 것이다. 너무도 인간적인 그들의 모습에 대해 벅찬 감동을 느낌과 동시에 수학이 끊임없이 난제에 도전할 수밖에 없는 학문이라는 것을 이해하게 될 것이다. 그리고 수학이 푸앵카레의 다음 말처럼 아득히 먼 세계로 우리를 이끌고 있음을 알게 될 것이다.

“그러나 이 문제는 우리를 아득히 먼 세계로 데려갈 것이다(Mais cette question nous entrainerait trop loin).”