[이만근 교수와 함께 수학의 고향을 찾아서]‘5차 방정식은 해를 구할 수 없다’ 갈루아보다 먼저 증명

■ 노르웨이 수학자 아벨

19세기 초 노르웨이 수학자 닐스 헨리크 아벨.

에바리스트 갈루아와 노르웨이의 닐스 헨리크 아벨(1802∼1829)은 동시대를 살면서 서로 만난 적은 없지만 충분히 능력을 발휘하지 못한 채 20대에 요절하는 등 비슷한 점이 많았다.

16세기 말 4차 방정식의 해법을 발견한 이래 300년가량 풀지 못했던 ‘5차 방정식’ 문제에 대해 두 사람은 ‘해를 구할 수 없음’을 증명했다. 아벨이 연구 결과를 발표한 이후 갈루아도 독자적으로 증명했다. 갈루아는 5차 이상의 방정식을 대수적으로 풀 수 있는 경우와 없는 경우에 대한 필요충분조건을 찾아내 아벨보다 한발 더 나아갔다고 이만근 교수는 말했다.

아벨과 갈루아가 증명한 것은 스위스의 천재 수학자 에른하르트 오일러도 해결하지 못했던 난제였다. 당대 최고의 수학자였던 카를 가우스는 아벨의 풀이를 거들떠보지도 않았고, 그의 사후 유품 자료에서 처박혀 있던 아벨의 논문이 발견됐다. 가우스는 ‘페르마의 마지막 정리’를 풀 수 없는 문제로 치부했지만 20세기 후반에 풀이가 나온 데 이어, 아벨의 천재성을 알아보지 못했다는 옥에 티를 남겼다.

아벨은 타원 함수에 대한 연구 결과를 프랑스 한림원의 오귀스탱 루이 코시에게 제출했으나 코시는 이를 펼쳐 보지도 않았다. 코시는 갈루아의 중요 논문을 심사도 하지 않고 있다가 분실했던 인물이다.

자신의 능력을 제때에 인정받지 못해 안정적인 일자리를 구하지 못했던 아벨은 프랑스 독일 등지를 떠돌며 가난과 과로에 시달리다 결핵으로 세상을 떠났다. 그가 죽고 이틀 후 그를 베를린대 교수로 채용한다는 초청장이 배달됐다.(책 ‘수학은 아름다워’)

노르웨이 정부는 아벨 탄생 200주년을 기념해 ‘아벨상’을 제정하고 2003년부터 매년 시상해왔다. 일부에서는 이를 수학의 노벨상이라 부르기도 한다. 상금은 약 80만 달러(약 9억3000만 원).

아벨상은 ‘필즈 메달’과 함께 가장 권위 있는 수학상이다. 필즈 메달은 4년마다 열리는 국제수학자대회(ICM)에서 주최 측이 수학 분야별로 주는 상으로 ‘40세 미만’이라는 수상자 연령 제한이 있다. 다음 ICM은 내년 8월 한국에서 처음으로 열린다. 이에 앞서 올 7월 8일에서 15일까지 한국에서 처음으로 국제수학교육대회(ICME)가 열린다. 두 대회가 잇따라 한 나라에서 열리는 것은 한국이 처음이다.

부르라렌=구자룡 기자 bonhong@donga.com