[동아광장/박형주]쓸모 있는 것과 아름다운 것의 만남

수학의 유용성과 심미주의, 끊임없는 상호작용… 그것이 인류의 역사
수학은 인류 난제 해결의 돌파구다

박형주 국가수리과학연구소장 아주대 석좌교수

어릴 적 형 따라간 동네 전파상에서 중고 부품을 구해 앰프를 만들었다. 신통하게 들어줄 만했다. 그렇게 시작한 납땜질은 중학교까지 이어졌고, 지금도 저항 표면 색깔로 용량 읽어내는 걸 재주라고 우긴다.

‘무지를 넘어서려는 지적 작업’이라는 과학을 우리는 각자의 방식으로 만난다. 직접 만든 라디오의 잡음과 함께 밤에 음악을 듣던 유년기의 기억은 과학이 사람을 행복하게 할 거라는 낙관을 갖게 했다. 원자폭탄을 개발한 오펜하이머의 슬픈 가족사를 듣고도, 인간 삶의 향상이라는 가치가 과학기술의 동인(動因)이라고 여전히 믿었다.

과학과 달리 예술의 영역은 막연한 동경 이상으로 맞닥뜨릴 기회가 없었다. 이런 유년의 아쉬움 탓일까. 예술에 일가를 이룬 사람에겐 일단 한 수 접어주는 버릇이 생겼다.

과학과 예술은 서로 멀어 보이고, 쓸모 있는 것과 아름다운 것을 추구하는 두 가치는 딱히 맞닿을 일이 없다. 그렇게 각자의 길을 가야 할 두 관점이 수학의 역사에서는 끊임없이 부딪치고 만난다.

그 출발은 유용성이었다. 수학은 원시시대에 사냥감의 수를 세며 시작됐고 농사의 절기를 예측하며 정교해졌다. 페르시아 시장에서 복잡한 다단계 물물교환을 수학 없이 어찌 했을까.

고대 그리스에 이르면 확 바뀌어, 바야흐로 수학은 심미주의의 색깔을 띠게 된다. 플라톤은 기하학으로 우주의 기본 원소를 찾았고, 피타고라스는 정수 비율에서 협화음의 비밀을 보았으며, 기하학적 비율은 미술과 건축의 핵심이 됐다. 이런 그리스적 사유는 유클리드의 원론에 녹아 있고, 현대에 와서도 수학의 내적 아름다움을 대칭성이나 조화 같은 단어로 표현하곤 한다.

플라톤은 ‘기하학을 어디에 쓰나요’라고 질문한 제자를 고귀한 것의 가치를 모르는 놈이라고 파문했다. 자연 정복을 외친 데카르트나 실용주의의 베이컨이 그런 플라톤 근처에 얼씬거렸을 리가 없다. 추상적이고 심미적이던 아테네 시대의 복원을 꿈꾸었을 것 같지도 않다.

중세 르네상스를 가리켜 고대 그리스의 재발견이라고 하는 건 뭘까. 르네상스가 재발견한 것은 그리스 후반기의 알렉산드리아 시대였다. 알렉산더 대왕이 개척한 지중해 신도시 알렉산드리아에서는 자유시민 계급이 출현하며 국제교역을 이끌었다. 헬레니즘의 본거지이자 수백 년 동안 세계의 중심이었고, 인간을 위해 주저 없이 수학을 사용했다. 로마군에 맞설 장비까지 만든 아르키메데스를 아테네 철학자들이 상상이나 했을까.

계몽주의 시대 수학의 핵심 가치는 유용성이었지만, 19세기 이후 급격히 추상화됐다. 중세 내내 인류를 좌절시킨 난제(고차방정식의 불가해성)를 추상성의 강력한 힘으로 해결하더니, 거침없이 튜링머신을 내놓고 컴퓨터 시대를 열었다.

어디선가 봤는데. 데자뷔. 고대의 실용수학이 그리스의 추상화를 통해 학문적 조직화를 이루지 않았던가. 역사를 ‘경쟁 개념의 상호 대립과 극복’으로 본 헤겔은 천재다.

정보량 폭증의 21세기다. 기후변화처럼 규모나 복잡도가 너무 커져서 수학의 눈으로 봐야 해결 가능한 문제들이 쏟아져 나온다. 문제를 해결하는 수학의 유용성이 부각되는 건 변증법적 필연이다.

세상의 문제를 수학적 방식으로 접근하는 태도를 요즘은 산업수학이라고 부른다. 순수수학의 전 영역을 활용해서 다양한 세상 문제들을 해결한다. 빅데이터로 당뇨병을 진단하는 데 위상수학이 돌파구를 만들어 냈고, 인터넷 해킹에 맞서는 주요 무기가 정수론이며, 생물학의 계통 발생 문제를 대수기하학적인 비선형 최적화가 해결했다.

순수수학에 응용을 덧씌우면 그 자체의 가치나 심미적 측면을 훼손하는 것 아닐까. 역사성이 답이다. 수학에서 유용성과 심미주의가 상호 작용해온 그 긴 역사를 보라. 수학의 눈으로 세상의 문제를 보면 흥미로운 문제가 튀어나온다. 이 문제들이 충분히 수학적이지 않을 거라는 시각은 편견이다.

그 강력한 유용성의 토대인 수학 이론의 가치는 어떤가. 입시교육의 필요악이나 ‘수포자’ 문제를 야기한 천덕꾸러기가 아니라 기후변화 같은 인류 난제의 돌파구다. 그 과실은 다시 깊이 있는 연구를 촉발하는 동인이 된다.

다시 납땜인두를 장만해야겠다. 메이커 운동이 인기라던데, 이젠 라디오 대신 무얼 만들어 볼까.

박형주 국가수리과학연구소장 아주대 석좌교수