[동아광장/복거일]‘게임이론’ 벗어난 對北유화정책

세계에서 권위가 가장 큰 상인지라 노벨상은 해당 분야의 상황에 관해서 중요한 정보들을 제공한다. 안타깝게도 지금 과학과 무지 사이의 전선은 보통 사람들의 상식에서 너무 멀리 떨어진 곳에 형성되어서, 수상자들은 낯설고 그들의 업적들은 이해하기 어렵다.

올해의 노벨 경제학상은 경기(게임)이론에서 개척적 연구를 한 로버트 아우만과 토머스 셸링이 받았다. 경기이론가들은 이미 1994년과 1996년에 수상했다. 1994년의 수상자들 가운데 한 사람인 존 내시는 ‘내시 균형’의 발명자인데 그의 극적 일생을 다룬 영화 ‘뷰티풀 마인드’로 우리 시민들에게도 잘 알려졌다.

올해의 수상자인 아우만은 ‘반복되는 게임’에 관한 통찰로 유명하다. 이제는 일상적 개념이 된 ‘죄수의 양난(딜레마)’은 도덕적으로 정당화될 수 없는 비협력적 태도가 전략적으로는 합리적이라는 결론을 내놓는다. 비관적 세계관이 담긴 이 이론 앞에서 많은 철학자들이 절망했다. 그러나 두 경기자들이 여러 번 만나는 연속 경기에선 그들은 거의 언제나 협력적 전략을 골라서 협력의 열매를 누린다. 이런 통찰은 옛날부터 알려졌고, 그래서 아우만은 민요나 민담처럼 최초의 창안자가 알려지지 않았고 여러 사람들에 의해 다듬어졌다는 뜻에서 그것을 ‘민속 정리(folk theorem)’라 불렀다. 그는 이어 이 통찰을 경기자들이 여럿인 다자 경기(n-person game)로 일반화했다.

아우만의 이론은 로버트 액설로드가 1970년대에 ‘죄수의 양난 상황에서 어떤 전략이 가장 유리한가’ 하는 실험에서 극적으로 증명되었다. 이 실험들에서 “처음엔 협력한다. 다음부터는 상대가 하는 대로 한다”는 간단한 전략을 따르는 ‘되갚기(TIT FOR TAT)’라는 프로그램이 모든 ‘약삭빠른’ 프로그램들을 누르고 우승했다. ‘되갚기’는 만나는 경기자들과 일단 협력한다. 만일 상대도 협력하면 함께 협력의 열매를 누린다. 만일 상대가 배신하면 비협력적 대응으로 응징한다. 이 간단명료한 전략의 우승은 협력적 전략의 우수함을 또렷이 보여 주었다.

얼마 전에 대통령비서관이 노무현 대통령의 태도를 ‘TIT FOR 3 TATS(세 번째 되갚기)’라 말하면서 ‘되갚기’가 화제가 되었다. 노 대통령이 너그러운 분이라는 점을 산뜻하게 강조했다는 점에서, 그것은 멋진 정치적 수사였다. 그러나 ‘노 대통령이 과연 그렇게 너그러운 분인가?’라는 물음을 떠나서, 세 번째 되갚기는 비현실적인 전략이다. 이내 눈에 들어오는 것처럼, 그것은 두 번 속이고 세 번째 협력하는 전략에 속절없이 이용당한다. 현 정권이 북한 정권에 일방적으로 이용당하는 것도 바로 그런 사정 때문이다. 좀 더 일반적으로, ‘햇볕 정책’과 같은 유화정책은 그런 사정 때문에 실패하기 쉽다. ‘상호주의’를 원칙으로 삼으라는 지적은 그래서 적절하다.

실제로 가장 좋은 전략은 ‘TIT FOR 1.3 TATS’다. 상대의 속임은 바로 응징하되, 실수를 가혹하게 응징하는 것을 피하기 위해서, 세 번에 한 번꼴로 용서하는 전략이다. 성공적 지도자들을 살피면, 그들이 대체로 이런 전략을 따른다는 것이 드러난다.

경기이론에서 얻어진 통찰은, 특히 ‘되갚기’의 놀라운 성공에 담긴 함의들은, 생명체들이 자신의 이익을 위해서 협력한다는 통찰로 이어졌다. ‘상호적 이타주의(reciprocal altruism)’라 불리게 된 이 통찰을 떠받치는 증거들은 많다. 다른 종들 사이의 공생은 이런 협력이 보편적 질서임을 보여 준다.

이기심에서 비롯한 이타적 행동은 애덤 스미스의 ‘보이지 않는 손’이 작동하는 기제다. 그것은 삶과 문명에 대해 근본적 중요성을 지니므로, 로버트 라이트는 노이만과 모겐쉬테른에 의한 경기이론의 체계화를 “삶의 비밀의 발견”이라 일컬었다.

개인들의 벌거벗은 이기심은 대부분의 사람들에게 혐오스럽다. 그런 혐오는 기업, 시장 그리고 자본주의에 대한 혐오와 불신으로 이어진다. 삶과 문명의 바탕인 협력과 이타적 행동의 근원이 이기심이라는 통찰은 자본주의 체제에 대한 불신과 성공한 사람들에 대한 반감이 높은 우리 사회에서 큰 뜻을 지닌다.

복거일 소설가