[이만근 교수와 함께 수학의 고향을 찾아서]<10·끝>갈루아

5차 방정식 연구하다 ‘群論’ 정립… 현대 양자역학 기초가 되다

지난해 갈루아 탄생 200주년 기념 행사에서 사용된 갈루아의 초상화. 권총 결투로 쓰러지는 장면이 얼굴 좌우에 자그맣게 그려져 있다.

‘시대를 앞서가다 유성(流星)처럼 20대에 요절한 비운의 천재 수학자.’

프랑스 수학자 에바리스트 갈루아(1811∼1832)를 수학계는 이렇게 부른다. 전해지는 그의 초상화는 대부분 남동생 알프레드가 그린 것으로 얼굴에 우수가 가득 묻어난다. 무의미한 권총 결투로 사망하기까지 21년이라는 짧지만 파란만장한 그의 생애는 여러 편의 소설과 영화로도 만들어졌다.

파리에서 남쪽으로 자동차를 타고 20여 분 거리에 있는 소도시 부르라렌. 갈루아의 고향이다. 시의 한쪽 ‘페이자제’ 공동묘지에 있는 아버지 니콜라가브리엘 갈루아의 무덤을 찾아가 보니 니콜라가브리엘의 묘비는 물론이고 ‘수학자 에바리스트 갈루아’라고 적힌 아들의 묘비까지 얹혀 세워져 있었다. 죽은 후 무덤도 찾을 수 없었던 갈루아와 왕정 시대에 공화주의자로 살면서 반대파의 모함과 모욕을 견디지 못해 자살한 아버지, 두 부자(父子)의 굴곡 많은 삶이 상징적으로 비쳤다.

부르라렌 시 정부는 지난해 10월 갈루아의 모교 에콜 노르말 측과 갈루아 탄생 200주년 행사를 개최하는 등 갈루아 기념사업에 적극 나서고 있다. 생가 ‘제네랄 르클레르 54’의 5층집 2층 벽에는 ‘갈루아가 살았다’고 적힌 작은 동판이 부착되어 있다. 시 정부 산하 관광안내소 직원 로제 니콜라 도리에 씨(45)는 “갈루아의 생가는 시가 매입해 기념관 등으로 바꿀 예정”이라고 말했다.

아버지 묘 위에 아들 묘비만… 프랑스 파리 남쪽 근교 부르라렌의 ‘페이자제’ 공동묘지에 서있는 갈루아의 ‘묘비’. 이곳은 자살한 그의 아버지 니콜라가브리엘의 무덤이 있는 곳이다. 권총 결투로 사망한 갈루아의 무덤을 찾을 수 없어 아버지의 묘비 위에 그의 묘비를 세워 놓아 ‘부자의 비극’을 보여준다. 부르라렌=구자룡 기자 bonhong@donga.com

최근 이만근 교수(동양대)와 함께 찾은 부르라렌의 지하철 역 플랫폼에서는 시 정부의 갈루아 기념 자료 전시회가 열리고 있었다. 갈루아가 살면서 거쳤던 주요 장소를 시간순으로 번호를 붙여 표시한 지도에는 그의 삶이 압축돼 있다.

그의 생가, 루이 14세 중고교, 그가 제출한 논문을 두 차례나 분실해 논문 심사를 받을 수도 없게 만들어 좌절을 안긴 프랑스 학사원, 그가 한 손에 칼을 들고 술을 마시다 왕을 모독했다고 모함받아 체포됐던 식당(방당주 드 부르고뉴), 포병대 복장을 입었다가 체포됐던 퐁뇌프, 그가 수감됐던 생트 펠라지와 라 포르스 감옥, 그리고 1832년 5월 30일 결투 다음 날 숨진 코섕 병원 등.

갈루아의 아버지는 부르라렌 시에서 17년간 시장을 지냈다. 그 덕분에 갈루아는 당시 귀족 자제들이 많았던 루이 14세 중고교에 다녔다. 라틴어와 그리스어를 싫어했고 생활기록부에는 ‘품행 불량’이라고 적혀 있다. 모범학생은 아니었던 모양이다. 하지만 ‘1차 대수 방정식에 관한 연구’라는 논문을 낼 정도로 수학에 몰두했다. 한 교사는 “그를 지배하고 있는 것은 수학에 대한 광기”라고 평가했다(‘앵무새의 정리’·드니 게즈). 그는 아드리앵 마리 르장드르(1752∼1833)가 유클리드의 13권짜리 ‘기하학 원론’을 현대화한 수학 이론서를 마치 소설책을 읽듯이 이틀 만에 독파했을 뿐만 아니라 내용 대부분을 이해했다고 전해진다.

갈루아가 17세 때 아버지가 시장직을 내놓고 자살로 생을 마감하면서 그의 인생이 뒤틀리기 시작한다. 집안의 경제적 형편도 급격히 기울었다. 부친 사망 1주일 후 그는 당시 수학 최고 명문 에콜 폴리테크니크에 응시했으나 면접에서 낙방한다. 결국 한 단계 수준이 낮았던 에콜 노르말에 입학한다. 에콜 노르말은 현재는 명문 그랑제콜(고등교육기관) 중 하나다.

그가 왜 낙방했는지에 대해 여러 설이 있다. 천재성을 과신해 시험 준비를 너무 소홀히 했다거나 아버지 사망으로 인한 정서적 불안이 큰 영향을 미쳤을 것이라는 설명도 있다. 하지만 이브 앙드레 에콜 노르말 및 프랑스 국립과학원(CNRS) 교수는 파리 연구실에서 기자를 만나 다른 해석을 내놓았다.

앙드레 교수는 “당시 면접관이 ‘산술 대수에 대해 설명하라’고 질문하자 갈루아는 ‘산술 대수 같은 수학은 없기 때문에 설명할 것도 없다’고 대답해 시험관을 격분시켰다는 설이 있다”고 말했다. 그의 수학적 능력은 이미 면접관들의 수준을 넘어섰다는 것이다.

공화주의자였던 그는 정치적 파동 속에 에콜 노르말에서 제적당한 후 국가방위군 포병대에 가담한다. 하지만 포병대는 공화주의를 지원한다는 이유로 곧 해산됐다. 갈루아는 부대 해산 후에도 여전히 포병대 복장을 입고 다니다 체포돼 옥살이를 했다.

갈루아가 수학자의 길을 걷지 못한 요인에는 몇 가지 황당한 불운이 잇따랐기 때문이라는 얘기들이 거론된다. 그는 에콜 노르말 재학 시절 ‘방정식론’에 대한 논문을 파리 한림원에 보냈는데 심사를 맡은 오귀스탱 루이 코시가 논문 원고를 분실했다. 여기에는 그의 가장 큰 업적 중의 하나로 ‘5차 이상의 방정식의 해(근)는 구할 수 없다’는 내용이 들어 있었다고 한다.

갈루아는 이후 한 단계 발전시킨 이론으로 ‘5차 이상의 방정식 중 대수적으로 풀 수 있는 조건과 아닌 것을 구분하는 필요충분조건을 증명’하는 논문을 프랑스 한림원에 다시 보냈다. 그런데 이번에는 심사관인 조제프 푸리에가 심사 도중 사망하는 바람에 원고가 없어지고 말았다. 푸리에는 보나파르트 나폴레옹의 이집트 원정을 수행한 유명 수학자다.

갈루아는 사망하기 전해인 1831년 프랑스 한림원에 또다시 방정식 등에 대한 논문을 제출했다. 그런데 이번에는 심사를 맡은 수학자 시메옹드니 푸아송이 “전혀 이해할 수 없다”며 받아들이지 않았다. 시대를 앞서간 그의 이론을 당시 수준에선 도저히 이해할 수 없었던 것이다.

갈루아가 수학에서 남긴 가장 큰 업적은 군론(群論·group theory)이다. 군론이란 연산이 정의된 어떤 집합의 수학적 구조를 연구하는 것으로 ‘군’이란 용어도 갈루아가 처음으로 사용했다. 4차 방정식까지는 대수적인 풀이는 알려져 있었지만 5차 이상 방정식의 근의 공식이 있는지는 밝혀지지 않고 있었다. 갈루아는 이 물음에 대한 답을 찾는 과정에서 군론을 도입했다. 군론 등 갈루아의 이론은 현대 수학의 기초가 됐으며 양자역학 등 물리학에도 응용되고 있다.

앙드레 교수는 “갈루아 이론은 문구 이상의 깊이가 있어 글을 읽으면 영감을 얻는다”며 “하지만 아직 완전히 이해되지 않는 구절이 많다”고 말했다.

갈루아의 허무한 죽음을 후대 수학계는 안타까워한다. 그는 사귀던 여성 문제로 동료 공화주의자로부터 결투 신청을 받는다. 상대의 뛰어난 사격 실력을 알았던 갈루아는 결투 전날 자신의 운명을 직감하고 친구 오귀스트 슈발리에 등 지인들에게 작별의 편지를 남기고 자신이 알고 있던 주요 수학 이론 등을 밤새 정리했다. 갈루아는 결투에서 총상을 입고 이튿날 동생이 지켜보는 가운데 쓸쓸하게 세상을 떠났다. 그가 스스로 “무의미한 결투”라고 밝힌 것처럼 목숨을 잃을 것이 뻔한 결투에 왜 꼭 나가야 했는지 등은 여전히 의문으로 남아 있다.

부르라렌=구자룡 기자 bonhong@donga.com