[자연과학]“증명 불가능한 진리가 있다”

◇ 불완전성-쿠르트 괴델의 증명과 역설/레베카 골드스타인 지음·고중숙 옮김/341쪽·1만5000원·승산

20세기 최고의 수학자라 불리는 쿠르트 괴델(1906∼1978). 그가 25세에 발표한 불완전성 정리는 아인슈타인의 상대성 이론, 하이젠베르크의 불확정성의 원리와 함께 객관적 진리가 존재한다는 과학에 토대를 둔 근대적 세계관을 붕괴시킨 3대 이론으로 꼽힌다.

불완전성 정리는 2개로 구성된다. 제1정리는 ‘수론에 적합한 어떤 형식체계에나 증명도 부정도 할 수 없는 식이 존재한다’이다. 제2정리는 ‘수론에 적합한 어떤 형식체계의 일관성은 그 체계 안에서는 증명할 수 없다’이다. 순수 이성의 최상위를 차지하는 수학으로도 증명 불가능한 진리가 존재한다는 것이다.

상대성 이론이 시공간의 절대성을 타파했고 불확정성의 원리가 객관성 신화를 무너뜨렸다면, 불완전성 정리는 진리의 근거를 뒤흔들어 버린 셈이다. 이 때문에 이들은 상대주의에 빠진 탈근대론자들에게서 객관적 진리를 강조한 플라톤주의를 추방한 삼위일체로 추앙받았다.

하지만 철학가인 저자는 괴델과 불완전성 정리에 담긴 역설의 미학을 예리하게 포착했다. 괴델은 경험적으로 입증되지 않는 것은 무의미하다고 한 빈학파와 어울렸지만, 그들과 반대로 ‘저 너머’에 객관적 실체가 존재한다고 믿은 플라톤주의자였다.

불완전성의 정리도 역설의 꽃이다. 저자는 괴델이 사용한 리샤르의 역설 외에도 칸토어의 역설, 러셀의 역설 등을 소개한다. 예를 들어 ‘나는 거짓말쟁이다’라는 명제는 그 내용이 참일 경우 거짓이 되고 내용이 거짓일 경우엔 참이 되는 역설이 성립한다. 이런 역설의 토대 위에 세워진 불완전성의 정리는 ‘수학의 본질은 자유’임을 뒷받침하는 동시에 ‘존재는 모순 속에 피는 꽃’이라는 초수학적 통찰로 우리를 안내한다.

저자는 괴델과 3명의 철학자, 수학자, 과학자를 대비한다. 괴델과 불화한 철학자 루트비히 비트겐슈타인, 미국 프린스턴대 고등과학원에서 전설적 우정을 나눴던 알베르트 아인슈타인 등. 특히 괴델보다 27세나 많은 아인슈타인이 이 ‘괴짜’와 공명할 수 있었던 것은 절대적 진리에 대한 신념에도 불구하고 ‘상대주의자’로 오해받은 추방감에서 비롯했다는 설명은 묘한 카타르시스를 불러일으킨다.

권재현 기자 confetti@donga.com