돌두개와 양 두마리에서 2라는 공통점을 알게 됐을 때 문명이 싹트기 시작했다.”(영국의 철학자 B. 러셀)

아무런 상관없는 돌과 양 사이에서 2를 추상화함으로써 인간은 이성 공간에서 현실 세계를 설계할 수 있게 됐고 문명의 새벽이 열렸다. 나일강과 황허강에서 계절의 주기성을 추상함으로써 인간은 수학을 갖게 됐고 대하문명을 이뤘다.

그러나 수학은 단순히 현실적 쓰임새로서만 의미를 갖는 것은 아니다. 오히려 수학은 실용성을 떠나 논리성과 합리정신으로 가치를 높이고 체계화해 스스로의 세계를 구축한다. 이는 마치 로켓에 부착된 인공위성이 궤도에 오르면 추진 에너지 없이도 스스로 궤도를 도는 것과 같다. 일단 체계를 갖추면 수학은 자신만의 세계에서 현실과는 상관없이 수학적 창조를 거듭해왔다.

‘학문의 아버지’ ‘과학의 어머니’ 존칭 붙기도

하지만 수학이 스스로의 체계에서만 정합성(整合性)을 추구한다면 ‘수학을 위한 수학’의 늪에서 벗어날 수 없다. 실용적인 이집트 기하학이 고대 그리스에서 논리적 수학으로 승화하자, 마치 산소 부족으로 고산병에 걸려 고생하는 것처럼 현실성이 결여된 수학 때문에 고민하는 일은 예나 지금이나 다를 바 없다.



“왜 수학을 해야 하는가”라는 제자의 물음에 역정을 냈다는 유클리드의 이야기는 ‘수학 학습의 목적’에 관한 논의가 고대에도 있었음을 시사한다. 어쩌면 고고한 유클리드조차 수학의 ‘무용(無用)의 용(用)’에서 오는 욕구 부족 때문에 고전했을지도 모를 일이다.

옛날 지식인에게는 필수였던 학문이 오늘날에는 별 의미 없는 골동품 같은 존재가 되는 경우가 많다. 대표적인 예가 중세 유럽의 신학이나 한국의 역학(易學), 보학(譜學)이다. 반면 옛날에는 학문은커녕 상식의 대상도 안 되던 것들이 오늘날에는 중요한 학문으로 대접받기도 한다. 생태학, 광고, 미디어, 게임이론 등이 그 예다.

그러나 동서를 막론하고 유독 수학만은 인류 문명과 더불어 오늘날까지 줄곧 발달해왔다. 앞으로도 계속해서 문명사회를 유지하는 중심 구실을 할 것이다. 고대 그리스 이래 ‘Mathematics’는 ‘학문’이라는 뜻으로 여겨져 왔다. 서구인은 자유인의 교양학을 ‘Liberal Arts’라고 하며 수학을 그 기본으로 삼아왔다. 한편 동양에서도 교양인의 필수 지식인 육예[六藝 : 예(禮) 악(樂) 사(射) 어(御) 서(書) 수(數)]의 하나로서 수학을 중시했다. 수학은 그 기본을 ‘따짐(論理)’에 두고 있고, 이 따짐의 능력은 모든 지적 대상에 체계를 부여한다. 인문(사회학)은 수학이 개입함으로써 인문(사회)과학이 됐다.

또 수학은 현실성이란 모태에서 태어나 합리성(logos)이란 토양에서 자랐으며, ‘학문의 아버지’ 또는 ‘과학의 어머니’라는 분에 넘치는 거창한 존칭까지 받았다. 심지어 플라톤은 수학(기하학)을 이상화해 “인간의 왕이 되려면 학문의 왕인 수학을 배워야 한다”고 믿었다.

세종대왕은 플라톤이 기하학을 왕의 교양으로 삼은 것처럼 신하들에게 수학을 권하고 자기 또한 공부했다. 그는 “수학은 왕이 반드시 갖춰야 할 지식은 아니지만 학문의 기본이므로 공부한다”는 말을 남겼다. 세종대왕은 고대 그리스식 철학왕(哲學王)의 면모를 갖췄던 것이다. 이 말에는 수학에 관한 두 가지 의미가 내포돼 있다.

첫째는 수학이 ‘실용적 학문’으로, 예컨대 천문 계산이나 토지 측량 등에 필요한 수학은 왕이 공부해야 할 학문이 아니라 기술관리가 해야 하는 것이다. 하지만 수학에는 그것과는 다른 차원의 ‘합리적 정신 함양’이 있다. 세종대왕은 후자를 중요시했으며 그 신념이 조선 문명을 당시 동양 최고의 위치에 올려놓았다.

모순에 둘러싸일 때마다 새로운 돌파구 찾아

수학이 어느 시대에나 인간에게 이만큼 중시된 이유는 무엇보다도 현실 세계의 현상을 합리적으로 설명하기 때문이다. 신비스러운 천체와 자연에 대한 강력한 인식 수단으로서 수학은 절대 진리로 여겨지기도 하고, 때론 신성시되기도 했다. 고대 그리스인은 수학이 현상의 본질이라 믿었으며 ‘모든 것은 수’라는 피타고라스학파의 사상도 여기에서 나왔다. 이 사상은 시대와 더불어 확대 재생산됐다. 갈릴레이, 케플러, 뉴턴, 아인슈타인 등이 이룬 과학 분야의 최고 업적은 모두 수학 언어로 구성됐다.

이제 수학은 스스로 약점을 노출할 만큼 발달했다. 수학이 절대 진리라는 것은 오늘날 한낱 미신에 지나지 않는다. 비(非)유클리드 기하가 유클리드 기하를 부정한 지 오래다.

수학은 모순과의 공존을 자랑한다. 1+1이 10이 되는 2진법이 있는가 하면, 1+1이 1이 되는 수학도 있다(2개 강이 합해지면 1이 된다). 결국 오늘날의 수학은 하나의 가설에서 출발한 지식체계에 불과하며 진리 그 자체는 아니다. 굳이 덧붙이면 상대적인 진리라고나 할까.

세상과 문명이 변하는 것처럼 수학도 변하며, 새로운 수학이 계속 등장하고 있다. 물론 여기에는 성경이나 불전 같은 ‘절대 진리’란 없다. 옛 수학자들은 절대 진리를 탐구한다며 스스로를 채찍질했지만, 유클리드 기하와 비유클리드 기하의 공리가 서로 모순되면서도 제각기 그 정당성을 주장할 수 있듯, 인간은 자유로이 공리를 설정함으로써 수학의 가치를 재발견했다(“수학의 본질은 자유다.”-G. 칸트). 그 몸부림 속에서 끊임없이 발전을 도모하는 노력이 모든 것을 수학의 대상으로 삼는 지적 인간의 숙명이다.

모순에 둘러싸인 수학은 20세기 들어 그 돌파구를 구조에서 찾아낸다. 힐버트(Hilbert)는 “점은 컵, 선은 펜, 면은 책상이라 해도 이들 사이의 관계에 일관성 있는 논리만 있다면 기하학”이라고 했으며, 근대 언어학의 개척자 소쉬르(Saussure)도 “펜이라는 말은 다른 것을 펜이라고 하지 않는다. 즉 언어의 본질은 차이에 있다”고 말했다. 이들은 구조를 지적 대상으로 삼아 20세기 문명의 지평을 열었다.

원시시대 목동이 두마리의 양과 두개의 돌에서 2를 추상화한 것처럼 다른 대상에서도 같은 ‘구조’를 찾아낼 수만 있다면 결국 같다는 것이다. 1970년대에 IBM이 발표한 20세기 최대의 수학 업적은 순수수학 분야가 아닌 수학을 이용한 인문사회과학 분야에서 나왔다. △촘스키(Chomsky)의 언어학 △철학이라고도 할 수 있는 괴델(Go‥del)의 불완전성 정리 △레비스트로스(Le´vi-Strauss)의 문화인류학이 그것이다. 이들 언어, 철학, 사회에는 구조가 있다. 20세기 문명은 이미 수학의 대상인 고전적인 수와 도형의 세계를 떠나 구조세계를 파헤치고 있었다.

그 후 20세기 말에 등장한 카오스 이론은 “서울 종로거리에 있는 나비 한 마리의 날갯짓이 일주일 후 미국 뉴욕에 폭풍우를 몰고 온다”는 것을 증명하고, 오늘날 세계 금융위기도 예언했다. 또한 컴퓨터 수학은 탐욕스럽게 복잡성의 실체를 밝히려 날뛰면서 현실 세계와 밀착하며 21세기의 문명을 좀더 새롭고 알찬 것으로 이끌어간다.

새 문명은 수학을 자극하고 수학은 그것을 받아들여 새로운 수학을 낳았다. 또 그 열매를 다시 현실 세계에 투영함으로써 문명을 세웠다. 이 때문에 수학은 ‘가능성의 과학’이자 시대 자체이기도 하다. 각 시대마다 수학은 문명의 상징이었다. 인류 문명에는 수학 우주와 현실 세계를 잇는 우주왕복선이 수시로 왕래한다. 앞으로도 자연, 사회, 인문 분야를 넘나들며 새로운 문명을 만들어내는 수학을 기대해본다.