57년 묵은 수학 난제 한국 학자가 풀었다

서울대 강현배-美 유타대 밀턴 교수, ‘폴야-세고, 에슐비 예측’ 증명

57년 동안 풀리지 않은 수학계의 난제(難題)가 서울대 교수와 미국 유타대 교수의 공동 연구로 해결됐다.

서울대는 4일 강현배 수리과학부 교수와 그램 밀턴 유타대 석좌교수가 ‘폴야-세고 예측’과 ‘에슐비 예측’을 공동으로 해결했다고 밝혔다.

“같은 부피를 가지는 영역 중에서 편극텐서의 고유치의 합이 최소가 되는 모양은 구면체뿐이다”는 내용의 ‘폴야-세고 예측’은 1951년 미국 스탠퍼드대 교수인 폴야와 세고가 그들의 저서에서 제시한 것으로 이후 수많은 학자가 이를 증명하려 시도했으나 번번이 실패했다.

3차원상에 나타나는 한 모양이 있다면 그 모양에 대응되는 양(量)이 있는데, 편극텐서는 모양에 관한 특별한 성질들을 내포하고 있는 양을 의미한다. 19세기 말에 등장한 이 개념은 최근 들어 의료 영상장비, 비파괴 검사 등의 분야에서 중요한 개념으로 각광받고 있다.

‘에슐비 예측’은 “평등한 벡터장이 걸려 있을 때 내부에서 역시 평등한 벡터장이 형성되는 구조는 타원체밖에 없다”는 내용으로 이론 역학자인 에슐비가 1961년 제시했다.

에슐비 예측은 최적의 합성구조를 찾는 연구에서 중요한 의미를 지니는 것으로 1971년에 이 예측이 2차원 평면에선 참이라는 것이 증명됐으나 그 해법이 3차원으론 확장되지 못했다.

강 교수는 밀턴 교수와의 공동 연구를 통해 먼저 두 예측이 ‘어느 한쪽이 참이면 나머지 한쪽도 참이다’는 동치(同値) 관계인 것을 밝혀냈다.

이후 수차례의 작업을 통해 두 교수는 에슐비 예측이 1930년대에 증명된 ‘물체의 내부 중력장이 상수(常數)가 되는 영역은 타원체밖에 없다’는 ‘뉴턴의 포텐셜 문제’와 연결해 입증할 수 있다는 사실을 발견함으로써 두 예측을 모두 증명하는 데 성공했다.

학계에서는 이번 연구 결과가 편극텐서의 성질을 이용한 의료 영상장비 개발과 내부 에너지를 최소화하는 합성 구조의 연구에 활용될 것으로 보고 있다.

강 교수는 “평소 의료 영상장비 등에 활용할 수 있는 수학적 내용이 뭐가 있을까 고민하다 두 명제에 관심을 갖게 됐다”며 “밀턴 교수와 함께 난제를 해결해 기쁘지만 연구 결과를 실제 기술에 접목시킬 효과적인 방법을 계속 연구할 것”이라고 말했다.

이들의 공동 논문은 올해 초 수학과 역학 분야의 세계적 학술지인 ‘아카이브 포 래셔널 미케닉스 앤드 애널리시스’ 188호에 게재됐다.

한상준 기자 alwaysj@donga.com