[자연과학]수학의 눈으로 세상을 다시 보다 '무한의 신비'

독일 수학자 에셔가 만든 뫼비우스의 띠

미국의 추상주의 화가 바넷 뉴먼은 하나의 물감으로 캔버스를 온통 뒤덮은 후 ‘유클리드의 죽음’(1942)이라는 제목을 붙였다. 형태 없는 색면으로 우리가 살고 있는 세계가 휘어진 시공간임을 강조한 이 작품에서 뉴먼은 ‘기하학의 아버지’의 죽음을 선언했다. 19세기 중반에 등장한 비유클리드 기하학은 아인슈타인의 상대성 이론을 탄생시켰고, 한 세기를 지나 우주와 세계를 바라보는 동시대인들의 시각을 송두리 째 바꾸어 놓았다. 뉴먼의 작품은 바로 그러한 시대정신의 산물이자, 수학이 결코 ‘관념의 세계에서 벌이는 지적 유희’만이 아님을 보여주는 소중한 증거다. 최근 ‘수학’이라는 행성을 밝히는 두 개의 태양 ‘집합론’과 ‘기하학’에 관한 책이 나란히 출간돼 20세기 수학의 좌표평면을 탐색하고 있어 특별히 주목된다.

무한의 신비/애머 액젤 지음 신현용·승영조 옮김/304쪽 1만2000원 승산

유클리드의 창-기하학 이야기/레오나르도 믈로디노프 지음 전대호옮김/317쪽 1만2000원 까치

‘무한의 신비: 수학, 철학, 종교의 만남’은 집합론의 창시자 게오르그 칸토어의 삶을 중심으로 그가 평생을 바쳐 연구한 무한의 본질을 심도있게 파 헤치고 있다. 고대 수비학에서부터 괴델의 ‘불완전성의 원리’에 이르기까지, 무한 개념을 이해하려는 다양한 시도들이 소개된다. 그 중에서도 백미는 칸토어의 ‘연속체 가설’을 설명하고 있는 부분(11∼15장)이다.

월드컵을 맞이 해 객실이 무한히 많은 호텔을 서울 한복판에 지었다고 가정해 보자. 그런데 무수히 많은 손님이 한꺼번에 찾아오는 바람에 객실이 전부 차 버렸다. 뒤늦게 찾아 온 수학자 손님에게 지배인은 방이 없다고 말한다. 이때 수학자는 한가지 아이디어를 제안한다. 1호실 사람을 2호실로 옮기고, 2호실 사람은 3호실로 옮기고. 모든 손님을 옆방으로 옮기면 방은 무한히 많기 때문에 결국 1호실은 비이게 되고 수학자는 1호실에서 묵을 수 있게 된다.

‘힐베르트의 호텔’이라 불리는 이 이야기는 자연수 전체의 집합이 ‘1을 뺀 자연수 전체의 집합’과 일대일로 대응될 수 있다는 것을 보여준다. 이러한 성질을 통해 칸토어는 그 유명한 ‘연속체 가설’을 제안한다. 연속체 가설이란 ‘실수의 부분 집합 중에서 자연수 전체 집합보다 크고 실수 전체 집합 보다 작은 집합은 없다’는 것이다.

이 문제는 1900년 힐베르트의 유명한 강연 ‘20세기에 풀어야할 10가지 문제’ 중 첫 번째로 언급되었으며 그 후 20세기 현대 수학의 문을 여는 계기가 되었다. 20세기 수학자들은 ‘무한의 세계를 넘어’(To infinity and beyond)라는 ‘토이 스토리’의 모토를 충실히 따랐다고나 할까?

물리학자인 레오나르드 믈로디노프가 쓴 ‘유클리드의 창: 기하학 이야기’는 기하학의 눈으로 물리학의 역사를 다시 쓴 흥미로운 저작이다. 그는 ‘ 2,300년간 타오른 기하학의 횃불을 건네 받은 천재 기하학자 5인방’을 중심으로 이야기를 풀어간다. ‘기하학의 성경’이라 불리는 ‘기하학 원본’을 쓴 유클리드, 좌표평면을 고안해 대수와 기하학을 결합한 데카르트, 쌍곡선 공간으로 비유클리드 기하학의 물꼬를 튼 가우스, 리만 기하학을 시공간에 적용해 상대성 이론을 완성한 아인슈타인, 11차원 끈 구조로 우주의 궁극입자를 설명하려는 위튼 등이 그 주인공이다.

이 책은 그들의 학문 궤적을 따라 가는데 그치지 않고 기하학의 발전이 어떻게 과학적 진보를 일궈 냈는가에 주목하고 있어 더욱 유익하다. 그 중에서도 ‘아인슈타인의 상대성이론’(4장) 부분에서 저자의 재기발랄한 유머와 적절한 비유가 가장 빛을 발한다. 시종일관 미소를 머금고 읽을 수 있는 수학 책을 상상해 보시라!

그런데 질문 하나. 지구에 철썩 같이 붙어사는 우리들에게 ‘무한 집합이나 11차원의 휘어진 공간’이 무슨 의미가 있냐구? 우주 비행사 제임스 라벨은 이런 말을 했다. ‘지구를 떠나보지 않으면 우리가 지구에서 가지고 있는 것이 진정 무엇인지 깨닫지 못한다’라고.

자, 열심히 일한 당신, 이 두 권의 수학 책과 함께 지구를 떠나라!

정재승 고려대 물리학과 연구교수

jsjeong@yahoo.co.kr