[동아광장/박형주]특정 파벌 뛰어넘는 합리의 시대

구시대의 한계 넘는 과학혁명… 시대가 인물을 만들기도
결정론에 기댔던 유물론 철학, 확률의 관점에 타격받아
과학논리가 지배하는 곳에서는 특정 파벌의 이익도 무의미

박형주 국가수리과학연구소장 아주대 석좌교수

지난 세기가 끝날 무렵이었다. 한 세기가 끝나 가는 데다 새로운 천년이 시작한다고 법석이던 때였다. 종말론자들은 인류의 마지막을 준비해야 한다고 외치고 있었고, 언론 매체는 지난 세기를 돌아보며 다가올 21세기를 예상하는 담론으로 채워졌다. 역시 20세기는 하드웨어가 주도한 시대였다는 데 큰 이견이 없었다. 드러나는 21세기의 모습은 컴퓨팅과 인공지능이 주도하는 소프트웨어의 시대로 자리 잡아 가는 것 같다.

계몽주의 시대 이후의 주류 과학은 19세기 말쯤에 이미 그 한계를 드러내고 있었다. 그래서 뉴턴역학의 한계를 극복하려는 과학자들의 노력이 구체화된 시기인 20세기 초는 과학의 역사에서 중대한 전환점으로 여겨진다. 결국 양자역학과 상대성이론이 나왔다.

흔히 20세기 초반 양자역학의 건설을 혁명에 비유하곤 한다. 그 시기에 활약했던 과학자들의 회상은 한결같다. 매일 새로운 발견이 이어지던 시기, 앙시앵 레짐(구체제·舊體制)의 한계를 넘어가는 통쾌함과 열정으로 가득한 시기였다. 이쯤 되면 정치적 의미의 혁명과 다를 게 없다.

역사를 통틀어 혁명의 시대에는 인물이 넘쳐나는 법이다. 알베르트 아인슈타인이라는 천재에 의존했던 상대성이론에 비해서 집단적 협업의 성격이 강했던 양자역학의 건설기에도 그랬다. 그래서 이 시기의 노벨상 수상자들은 젊은 과학자들이 많다. 양자역학 구축의 강력한 구심점이었던 닐스 보어는 37세에, 베르너 하이젠베르크와 폴 디랙은 31세에 노벨상 수상자가 되었다. 인물이 시대를 만들기도 하지만, 시대가 인물을 만드는 일도 분명 일어난다.

뉴턴역학은 17세기에 천체의 운동을 기술하려는 과정에서 출발했다. 뉴턴역학이 인류 역사에서 갖는 중요성 때문에 이 장면에서 여러 극적인 요소가 등장한다. 처음 깨달음을 묘사하는 과정에서 흔히 뉴턴의 사과가 등장하는데, 이는 중력이 작동하는 방식에 대한 인류의 깨달음을 표현한다. 무거운 두 물체는 서로를 끌어당긴다. 각각이 무거울수록 더 세게, 서로 가까울수록 더 강하게. 과학자들은 만유인력의 법칙이라는 거창한 이름으로 이 깨달음을 표현한다.

물체를 힘을 주어 당기면 점점 더 빨라진다는, 즉 가속도가 생긴다는, 단순하기 그지없는 깨달음을 표현한 게 뉴턴 방정식이다. 물체의 움직임을 기술하는 데 이런 무기가 또 없다. 나무에서 떨어지는 사과의 경우에는 중력이 이 힘의 역할을 할 것이고, 자석 근처의 쇠뭉치라면 자력이 이 힘의 역할을 하는 차이가 있을 뿐이다.

고전역학이라고도 불리는 뉴턴역학은 미적분이라는 새로운 언어의 도움을 받아서 물리 현상을 다루는 데에 대성공을 거두었고 수백 년 동안 과학의 흐름을 이끌었다. 우주의 질서를 기술하는 강력한 언어가 되었으며 산업혁명의 원동력이 되었다. 물체의 처음 상태와 작용하는 힘을 알면, 미래의 어떤 시점에서도 그 물체의 상태가 특정된다는 결정론적 우주관이 수 세기 동안 인류의 역사를 이끌었다. 당연히 철학에도 심대한 영향을 끼칠 수밖에. 인과율과 유물론도 이러한 결정론의 범주로 간주된다.

하지만 그렇게 완벽해 보이던 뉴턴 물리학도 시간이 흘러 원자의 세계를 다루는 영역에 다다르자 맥없이 한계를 노출했고, 결국 양자역학이 출현했다. 블랙홀처럼 거대 중력을 다루는 영역에서도 문제가 드러났지만 일반상대성 이론이 틈새를 메웠다. 가능성의 정도(확률)로 세상을 보는 관점은 결정론적 세계관에 익숙한 철학자들을 혼란에 빠뜨렸다.

고전 물리학이나 양자 물리학은 뉴턴 방정식과 슈뢰딩거 방정식이라는 미분방정식으로 표현된다. 그래서 수학을 과학의 언어로 여기는 것인데, 적어도 20세기에는 수학의 언어적 측면이 두드러졌다는 데에 큰 이견이 없다. 수학은 자연과학처럼 구체적인 물리적 대상을 연구 대상으로 가지고 있지 않지만, 물리적 대상 사이의 관계를 다루는 과학의 성격도 있어서 수리과학으로 부르기도 한다.

과학의 색깔은 바뀌어 왔지만 그 본질은 같다. 주어진 데이터로부터 논리적 추론과 지배법칙을 사용하여 결론에 다다르는 것. 특정 파벌의 이익도 그 앞에선 무의미하며 획일적 열정도 그 결론을 바꾸지 못한다. 이러한 방식이 이끌어가는 시대를 우리는 ‘이성과 합리’의 시대라고 부른다.

박형주 국가수리과학연구소장 아주대 석좌교수