[세계적 賞을 받은…]<6>아내사랑이끌려 수학의 ‘바다’로

김정한 박사는 기술이 급속히 발전하는 현대사회에서는 수학 등 기초과학을 전공하는 것이 장래에 더 도움이 된다고 강조한다. -동아일보 자료사진

‘우리나라에는 아직 유명한 수학자가 없는데, 제가 그런 사람이 되고 싶습니다.’

초등학교 4학년 때 ‘장래 희망’란에 이렇게 썼던 김정한(金鼎翰·42) 미국 마이크로소프트(MS) 수석연구원. 그는 30대 중반이던 1997년 스위스 로잔에서 그 꿈을 이뤘다. 전산수학부문 논문에 주어지는 세계적인 ‘풀커슨 상’을 받은 것.

전산수학학회와 미국수학회가 공동으로 3년마다 수여하는 이 상은 보통 2, 3명을 선정하는데 김 박사는 단독으로 수상했다. 지금까지 총 9차례의 시상 가운데 단독 수상자는 그가 유일하다.

이공계 기피 현상이 심각한 요즘, 한국인으로서 기초과학 분야에서 세계적인 인정을 받고 있는 그는 우리에게 무척이나 소중한 존재다. 미국 MS 연구소의 유일한 한국인이자 그가 속한 이론수학그룹의 유일한 동양인인 그와 수차례의 전화통화와 e메일 인터뷰를 통해 오늘이 있기까지 그가 거쳐 온 길과 그의 선택 등을 들었다.

그는 ‘신동’은 아니었다. 고등학교 때 성적은 전교 15등 정도. 굳이 수학자로서의 자질을 찾는다면 ‘논리적으로 생각하기를 즐겼다’는 점인데, 여기에는 어머니의 영향이 컸다. “어머니는 식탁에 반찬을 놓을 때도 어떻게 놓는 게 좋은지 설명해 주셨죠. 다른 많은 일에 대해서도 그 이유를 논리적으로 설명해 주시고요. 그런 게 저의 수학적 사고에 깊은 영향을 미쳤습니다.”

그도 한때 수학자의 길에서 벗어난 적이 있다. 81년 연세대에 입학할 때는 물리학과를 선택했다. 당시 선풍을 일으킨 ‘아인슈타인 신드롬’에 그도 빠져들었던 것.

그러던 그를 다시 수학으로 이끈 것은 ‘사랑’이었다. 대학시절 수학과의 한 여학생에게 호감을 가졌고, 그녀를 보기 위해 3학년 때 수학과 수업을 청강하기도 했던 것. 그러다가 그는 다시 수학의 재미에 푹 빠져들었고, 4학년 때는 아예 진로를 바꾸기로 결심한다.

“수학은 내게 물고기가 만난 물과 같았어요. 하고 싶은 것을 하고 산 덕분에 오늘날 이 자리까지 오게 됐다고 생각합니다.”

그 여학생이 바로 지금의 아내다. 아내는 훗날 그의 수학 인생에 또 한번 결정적인 영향을 미쳤다. 88년 아내와 함께 유학길에 오른 그가 처음 선택한 세부전공은 수리물리. 물리학 전공을 십분 활용했던 셈이다. 하지만 1년쯤 지나 그 분야에 흥미를 잃었다. 그러던 중 아내가 다른 수업의 조교 역할을 하느라 들을 수 없었던 ‘조합론’ 수업을 대신 들어줄 것을 김 박사에게 부탁한다.

“노트 필기를 하다가 ‘내가 해야 할 것이 바로 이것’이란 생각이 들었어요. 왜 아내와 결혼하게 됐는지 다시금 확인한 순간이기도 하고요.”

김 박사가 조합론에 끌린 까닭은 새로운 분야이기도 했지만 미래를 예측하기를 즐기는 그의 성격과 맞아떨어졌기 때문이다. 조합론은 특정 조건이 주어질 때 어떤 경우들이 생기는지, 그 경우의 수를 따지는 분야. 김 박사는 단번에 조합론에 끌렸다.

그에게 세계적인 상을 안겨준 연구도 ‘램지의 수’라는 조합론의 문제였다. 램지의 수란 큰 집단에서 공통 특성을 갖는 작은 집단을 찾을 수 있는지를 알아내는 문제다. 예를 들어 파티에 온 사람들 가운데 서로를 아는 작은 그룹과 서로를 전혀 모르는 작은 그룹이 반드시 존재하는지 또는 그렇지 않은지 따져보는 것. 김 박사는 이 문제에서 큰 집단의 크기가 정확히 얼마일 때면 작은 집단이 반드시 존재하는지, 존재하지 않는지를 알아냈다. 이는 물과 얼음의 경계인 섭씨 0도를 밝혀낸 것과 같다는 평가다.

이 문제를 풀 수 있는 아이디어는 어느 날 오전 5시쯤 잠에서 깼을 때 불현듯 떠올랐다.

“며칠 동안 이 문제에 매달려 있었죠. 그 아이디어를 잊어버리지 않으려고 메모지를 찾다가 급한 대로 식탁 위의 쓰다 남은 반쪽짜리 키친타월에 적었습니다.”

그 뒤 두 달간 공들인 결과, 60년 넘은 해묵은 난제가 해결됐다. 그리고 그 내용은 1995년 세계적인 과학학술지 ‘사이언스’에 게재됐다.

그의 논문은 ‘현대 확률론의 방법을 집대성했다’(에바 타도시 코넬대 컴퓨터공학과 교수), ‘많은 수학자들이 사용하는 수학적 방법이 올바르다는 것을 김 박사가 보여줬다’(조엘 스펜서 뉴욕대 수학과 교수), ‘유한한 개체가 점점 늘어날 경우 어떤 일이 벌어질지 예측하는 새로운 측면을 발견했다’(‘사이언스’지) 등의 평가를 받았다.

그렇다면 세계 최고의 정보기술(IT) 기업 MS가 수학자 김정한을 선택한 까닭은 무엇일까. 97년 초 MS의 간부들은 IT의 발전에 이론수학이 중요함을 인식했다. 그래서 MS는 그해 이론수학그룹을 만들고 로스앤젤레스 캘리포니아대(UCLA)의 수학과 교수를 그룹장으로 초빙했다. 그 그룹장이 첫 번째로 지목한 공동연구자가 바로 김 박사다.

김 박사의 전공인 조합론과 전산수학은 특히 IT 발전에 중요한 토대다. 전산수학은 컴퓨터에 다양한 경우마다 어떤 길을 가야 할지 알려주는 알고리즘에 관한 학문분야다. 그래서 경우의 수를 따지는 조합론과 밀접하게 관련된다. 모든 경우를 잘 따져야 버그 없는 알고리즘을 만들 수 있기 때문이다.

그는 MS의 연락을 받고는 바로 ‘모험’을 선택했다. 새로 시작하는 연구그룹에서 미국 사회를 직접 체험하며 성장하기를 원했던 것이다.

김 박사는 요즘 세상에 순수학문을 전공하면서 후회가 없었을까. 시쳇말로 ‘수학 같은 것 전공해서 뭘 먹고 사느냐’는 질문도 적지 않은 게 요즘 세태다. 그러나 김 박사는 기술이 급속히 발전하는 현대사회에서는 수학을 전공하는 것이 장래에 훨씬 더 도움이 되리라는 확신을 갖고 있다.

“기술만을 공부한 사람은 그 기술이 달라지면 적응하기가 힘듭니다. 하지만 기술의 기본원리를 충분히 이해한 수학자라면 어디로 진출해도 쉽게 적응할 수 있습니다. 수학자는 이공계통의 어디로 진출해도 그 분야에 기여할 수 있다는 얘기지요.”

박미용 동아사이언스기자 pmiyong@donga.com

▼김박사의 한국인 후학양성 ▼

김정한 박사는 몸은 미국에 있으면서도 최근 불모지나 다름없는 국내의 전산수학 분야를 키우는 작업에 적극 나서고 있다.

첫 단추는 지난해 끼워졌다. 상반기에 서울대와 연세대에서 직접 전산수학을 강의하는 한편 5월엔 마이크로소프트(MS) 한국지사의 지원을 받아 서울대에 전산수학연구소를 설립한 것. MS연구소가 위치한 미국 시애틀에 이 전산수학연구소의 지부도 마련했다.

지난해 자신의 전산수학 강의를 들은 대학원생과 학부생 중 3명을 뽑아 겨울방학 동안 시애틀 지부로 초청해 함께 연구했다. 조만간 그 결과가 논문으로 완성될 예정이다.

이런 김 박사가 정작 우리나라 젊은이들에게 가르쳐주고 싶은 것은 수학만이 아니다. 그는 그들에게 ‘프로정신’을 보여주기를 원한다.

“저 역시 프로정신에 익숙하지 않았습니다. 급할 때면 모든 것을 잊고 매달리는 ‘헝그리정신’으로 일했죠. 하지만 동료 수학자들을 보면 평소 꾸준히 실력을 가다듬고 적절하게 이용하는 프로정신을 보여주더군요.”

그가 한국 젊은이에게 프로정신을 심어주는 통로로 삼으려는 게 바로 전산수학연구소다. 지금은 대학생과 대학원생을 대상으로 하지만 앞으로 고등학생, 교사, 그리고 박사 후 연구원 등으로 대상을 확대하겠다는 포부를 갖고 있다.

“사람들은 좋은 우유를 얻으려면 좋은 젖소가 필요하다고 생각하죠. 하지만 기초학문을 하는 저로서는 좋은 풀이 필요하다고 봅니다. 마찬가지로 정보기술(IT) 역군들이 전산수학을 알아야만 우리나라가 IT강국이 될 수 있어요.”