20세기 수학자들의 초상 - 팩션

드라마로 읽는 현대 수학 기행
- 20세기 초 ‘확실성의 위기’에 처했던 수학의 빛과 그림자!

이 책의 첫 번째 주인공은 집합론을 창시한 게오르크 칸토어. 남자 1과 남자 2가 등장하여 서로를 탐색하며, ‘무한’에 대해 이야기를 나눈다. 그러나 읽어내려 가다보면 이 둘은 바로 게오르크 칸토어 자신의 치열한 내면임이 은연중에 드러난다.
독일의 여성 수학자 에미 뇌터는 어느 날 말을 하는 나비를 만난다. 나비는 에미 뇌터의 미래를 들려주며, 그녀와의 은밀한 만남을 지속한다. 여성 수학자로 학교와 수학계에서 제대로 된 평가를 받지 못해왔던 에미 뇌터는 역사의 소용돌이에서 목숨을 부지하기 위해 미국으로 떠난다. 하지만 사실 에미 뇌터는 나비를 만난 적이 없다.
1931년 ‘불완전성 정리’를 발표한 쿠르트 괴델은 고등과학연구원 루체 도서관에 유령으로 나타나 사람들의 화젯거리가 된다. 하지만 이 또한 지어낸 이야기다.

2 : 당신은 칸토어에 대해 어떻게 생각하십니까?
1 : 음……그는 이런 사람이죠. 그래요, 아픈 사람이었고, 일부 동료들로부터는 존경을 받았고, 또 크로네커 같은 동료들은 당신을 피했죠. 마치 어두운 계곡에서 소리치는 사람 보듯 말이에요. 많은 사람들이 당신의 작업에서 사람을 매료시키는 마력을 발견하죠. 어떤 사람은 정신과 클리닉 같은 끔찍한 장소를 떠올리기도 하구요. ‘천재와 광기’, 그것은 비범한 두뇌를 가진 사람들의 괴벽스러운 행동과 칸토어 같은 사람들이 겪어야 하는 고통스러운 외로움을 낭만적으로 묘사한 말일 뿐이오. 그런 인물들에 대해서는 제대로 묘사하기가 쉽지 않죠. 칸토어는 분명히 천재였소. 집합론에 대한 그의 통찰, 초한 서수의 존재에 대한 착상과 해석학에서부터 위상기하학에까지 이르는 그의 발상은 19세기 후반과 20세기 초반의 수학계를 뒤흔든 중요한 작업이라고 해야 할 겁니다. 칸토어가 의학적인 의미로 미쳤다는, 말하자면 정신분열증적 증상을 보였다거나 혹은 그저 아주 심한 노이로제 증상이 있었다는 점에 대해서는 그의 병원 진료 기록에 따라 판단이 판단할 수 있을 겁니다.
- <1. 셰익스피어는 모든 것을 알고 있었다-게오르크 칸토어 편>

에미는 이불을 든 채 얼른 창문 쪽으로 다가갔다. 그러나 알고 보니 그 불꽃은 한 마리의 나비였다. 그런데 예상치 못한 일이 일어났다. 그 조그만 동물이 이야기를 시작한 것이다.
“내 무늬가 마음에 드는구나, 그렇지? 그래, 이 무늬는 그저 자연스러운 거야. 그리고 일종의 예언적 표지라고 생각하렴. 나중에 네가 찾아내게 될 무늬랑 비교해 봐. 그건 훨씬 더 네 마음에 들 거야.”
분명 나비가 말을 하고 있었다.
“내가 무늬를 발견한다고? 너의 그 무늬를? 내가 더 커서 말이야?”
“응, 맞아. 몇 년은 지나야 돼.” 나비가 속삭이듯 말했다.
에미는 무릎을 굽혔다. 나비와 같은 높이에서 말해야 공손할 것 같았다.
“그러니까 내가 나중에 과학자가 되어서 곤충을 수집한다는 거니?”
나비는 웃었다.
“아니, 그렇게 작은 것들이 아니라, 훨씬 더 일반적인 걸 보게 될 거야. 거울에 비친 무늬나 내 날개의 무늬 같은 것들 모두와 관계 있는 것을 말이야.” 에미는 아빠가 손님들과 함께 수학, 그중에서도 기하학에 대해 얘기하던 걸 떠올렸다. 그러자 그 작은 불꽃이 생각하는 게 무엇인지 알 것 같았다.
“너, 지금 대칭을 말하는 거지?”
“응. 그리고 물리학도.”
“뭐, 물리학?”
“나는 어떤 것이 변화해도 변하지 않고 남아 있는 성질에 대해 말하는 거야. 그리고 그런 대칭적인 것들에서 동일하게 남아 있는 걸 네가 발견할 거라는 거지.”
“그러니까 내가 수학자가 된다는 거지? 훌륭한 수학자 말이야.”
“너무 흥분하지는 마. 정말 아무것도 없는데 네가 성공하는 건 아니야. 다른 사람들이 이미 준비해놓은 걸 네가 발견하게 되는 거니까.”
에미는 나비가 좀 건방지다고 느꼈지만 내색하지는 않았다.
- <5. 완벽한 대칭의 나비에 관한 동화-에미 뇌터 편>

그 도서관의 세미나 룸인 스피어 비블리오텍과 루체 비블리오텍에서 공부하던 사람 중에 유령이 있었다는 것이다. 사서와 만나기 전부터 그곳에 있었겠지만 눈치 챈 사람은 아무도 없었을 것이다. 본래 유령은 잘 안 보이는 법이니까. …… 약간 (동?)유럽의 억양을 가진 그는 자신이 월요일 아침 10시 경에 도서관을 오는 것이 전혀 이상한 일은 아니라고 생각했을 것이다.
“잠깐 월요일 아침 일찍이라구? 당신 지금 뭐라고 한 거죠, 월요일 아침 10시가 어떻다구요? 창밖을 봐요! 엄청 어둡잖아요.”
도서관 직원은 목소리를 높였고, 그 낯선 남자는 실제로 창밖을 보았다. 하지만 그는 아무것도 보지 못했다. 왜냐하면 그의 눈에 들어온 것은 오히려 커다란 유리창 옆에 붙어 있던 달력이었기 때문이다. “1978년……? 이런 환장하겠군. 이건 말도 안 돼!”
그 낯선 사람은 확실히 경악했다. 그는 1967년 10월의 한가한 오전이라고 믿고 있었던 것이다. ……
그때그때의 상황에 따라 그의 귀환이 많이 알려지기도 하고, 또 적게 알려지기도 하는 듯 보인다. 개인적인 프로젝트를 추진하면서 그런 사건을 경험한 물리학자들은 아마도 항상 동일한 시간의 동일한 괴델이라고 생각하지는 않을 것이다. 그가 늘 동일한 시간 곡선에서 움직였던 것이 아니며, 어쩌면 모든 사건들에서 단 한 번도 동일한 우주에서 오지 않았을지도 모른다.
- <6. 루체 도서관의 유령-쿠르트 괴델 편>

이처럼 『팩션-20세기 수학자들의 초상』에 등장하는 수학자들의 이야기는 절반은 사실이고 절반은 만들어낸 이야기다. 쥘 앙리 푸앵카레는 아직까지 부활하지 못했고, 쿠르트 괴델의 유령이 나타났다는 이야기도 사실이 아니며, 폴 에이드리언 디랙이 떠돌이들과 실랑이를 벌인 적도 없다. 그리고 튜링이 비밀스러운 예술 관련 프로젝트의 대부도 아니고, 콜모고로프도 뱀파이어와는 아무런 관련이 없다. 폰 노이만이 환생했다는 이야기도 마찬가지로 사실이 아니다. 그레고리 차이틴은 예술가가 아니고, 줄리아 로빈슨도 의료 활동을 한 적이 없으며, 망델브로가 길을 잃었던 것도 아니다. 그리고 에드워드 위튼은 콜로라도에 추락한 적이 없다.

무한의 문턱에서 20세기 수학의 이정표들을
소설적 구성으로 생생하게 그려내다

집합론에서 세포자동자 이론까지, 과학 저널리스트이자 소설가가 쓴 이 책은 20세기 수학의 얼개를 다소 문학적인 필치로 그려낸 책이다.

근대 과학 혁명의 주역은 바로 수학이었으며, 우리가 누리는 현대 기술 문명의 혜택 역시 수학이 없었다면 불가능했을 것이다. 하지만 수학이 어떤 학문인지를 제대로 알기는 쉽지 않다. 수학의 이러한 엄밀성과 고도의 추상성은 그래서 많은 사람들에게 일종의 장벽처럼 여겨지곤 한다. 그러나 이렇게 엄밀하고 정확한 학문의 상징인 수학의 밑바닥으로 내려가 보면, 수학이라는 학문을 어떻게 이해해야 하는지, 가령 수학적 대상이 실제로 존재하는지 아니면 인간의 관념이 만들어낸 허구적 대상인지, 또 수학적 진리는 마치 만유인력처럼 자연의 법칙을 묘사하는 것인지, 아니면 인간이 수학적으로 구성해 낸 여러 세계의 모습들 중 하나가 바로 우리가 살고 있는 이 세계일 뿐인지 등 대답하기 곤란한 철학적 문제에 부딪치게 된다.
그런 점에서 이 책의 첫 꼭지를 신경쇠약에 걸려 정신병원을 다녔던 칸토어로 삼은 저자의 선택은 매우 함축적이다. 이른바 ‘확실성의 위기’는 ‘유한한’ 인간 지성이 ‘무한성’을 끌어들이기 시작한 근대 수학부터 폭발력을 응축시키고 있었다. 칸토어는 그 억눌려 있던 힘에 집합론으로 점화를 시킨 것뿐이었다.

이 책은 20세기를 대표하는 수학자들의 삶으로부터 일부는 그들에 관한 에세이를 통해 알려진 이야기들, 또 일부는 새롭게 드러난 이야기들, 그리고 일부는 상상해 보면 그랬을 법한 이야기들을 담고 있다. 이 책에서 지어낸 이야기들이 비록 일종의 판타지이기는 하지만 매우 정밀한 판타지이다. 즉 그저 마구잡이 상상이 아니라, 조심스럽게 의미부여된 상상이라고 할 수 있다. 이 책에서 스케치한 길을 따라 조금 더 깊이 그리고 결코 상상이 아닌 수학적 내용들을 추적해 가는 일은 매우 흥미로운 작업이 될 것이다.

20세기 수학은 철저하게 구조의 학문이다. 그런 점을 반영하듯이 이 책의 각각 독립된 스무 꼭지 또한 마치 뫼비우스의 띠처럼 위상적으로 교묘하게 얽힌 구조를 가지고 있다. 물론 그것은 수학적 이론과 관련된 연결고리만이 아니라 작가의 소설적 장치 덕이기도 하다. 그 고리들을 추적해서 읽는 것 또한 이 책을 재미있게 보는 한 방법일 것이다. 물론 이 책의 저자는 수학이라는, 어떤 의미에서는 현실의 삶과 무관한 고도의 추상적인 학문이 갖고 있는 인간적인 면모를 그려내는 데도 소홀하지 않았다. 특히 이른바 68세대라고 불리는 유럽의 지식인들이 겪어야 했던 사회적 상황과 그에 대한 비판적인 의식, 그리고 자본주의 시대에 순수 수학을 연구하는 사람들이 겪어야 하는 인간적인 갈등에 이르기까지 수학자들이 겪어내야 했던 시대적 문제들을 글 곳곳에 숨겨 놓았다. 저자의 눈에 비친 수학은 결국 인간 역사의 굴곡을 함께 하는 역사적·문화적 구성물인 것이다.