[책속의 이 한줄]“화가-시인처럼… 수학자도 패턴의 창조자”

《 왜 수학자가 되었느냐고 묻는다면 그는 당당한 얼굴로 ‘ 어느 수학자의 변명’에 적힌 G H 하디의 정의를 들이밀 것이었다. “화가나 시인과 마찬가지로 수학자 역시 패턴의 창조자이다” 라고… 》
-애니그마(로버트 해리스·알에이치코리아·2015년)

구글의 인공지능(AI) 프로그램 ‘알파고(AlphaGo)’와 이세돌 9단의 대결은 AI에 대한 일반인들의 관심을 불러왔다. 최근의 AI 기술은 컴퓨터가 데이터의 의미를 찾아가는 딥러닝(Deep Learning)과 스스로 학습해 성능을 높이는 머신러닝(Machine Learning)까지 구현하고 있다. 하지만 이러한 기술들은 현대의 컴퓨터가 만들어지기 전부터 무수한 숫자의 행렬 속에서 특정한 패턴을 찾아내려는 수학자들의 끊임없는 노력이 있었기에 가능했다.

이 책에 등장하는 수학자들 역시 그들 중 일부이다. 천재 수학자이자 최고 암호 해독가로 등장하는 주인공 토머스 제리코는 제2차 세계대전 영국군에서 활약한다. 제리코는 가상의 인물이지만 저자가 서술한 독일군의 암호 체계 ‘에니그마’나 제리코가 일했던 블레츨리파크 등은 역사적 사실이다.

저자는 당시 상황에 대해 “스파이의 시대가 지났고 커튼이 쳐진 침대차에서의 은밀한 만남은 전설이 됐다”고 언급했다. 대신 수학자들과 기계를 다룰 엔지니어와 하루 5000개의 비밀 메시지를 다룰 1만5000명의 문서 정리원이 필요한 시대라는 것이다.

실제 역사에서도 2차대전 당시 영국의 수학자 앨런 튜링이 독일군의 암호 해독을 위해 해독 기계 ‘봄베’를 만들었고, 이는 영국을 포함한 연합군이 승리하는 데 그 어떤 스파이보다도 더 큰 공을 세웠다는 평가를 받고 있다.

알파고가 이세돌 9단과의 대결에서 승리를 거두자 ‘AI가 인간을 무너뜨렸고 공상과학(SF) 영화에서처럼 AI가 인간을 위협할 것’이라는 해석이 나오기도 했다. 하지만 이 9단을 무너뜨린 것은 데미스 허사비스 구글 딥마인드 대표를 포함한 구글의 엔지니어들이라고 보는 게 더 적절할 것이다. 또 역사를 더 거슬러 올라간다면 현대의 컴퓨터가 등장하기 전인 1950년에 이미 ‘기계의 사고 능력’을 판별하는 테스트를 제안했던 앨런 튜링, 즉 인간의 승리이다.

김철중 기자 tnf@donga.com