“수학 원리-정보기술 활용하니 디지털 범죄가 보여요”

서울대서 디지털포렌식 연구… 현직 검사 3인의 학습 현장

올여름 서울대 수리정보과학과 1기 졸업생이 될 검사 3인방. 왼쪽부터 주민철, 이환기, 신교임 검사와 이들을 가르치는 김명환 수리과학부 교수. 이들은 “처음에 수학 수업을 들었을 때 ‘멘붕’에 빠졌었다”면서 “매주 치러지는 쪽지시험 덕분에 이제는 디지털포렌식에 필요한 웬만한 수학 개념은 이해하는 수준이 됐다”고 말했다. 장승윤 기자 tomato99@donga.com

“타닥 타다닥.”

9일 오전 서울 관악구 서울대 129동 강의실. 칠판에 분필 두드리는 소리가 고요한 교실에 울려 퍼진다. 김명환 수리과학부 교수의 대학원 암호학 강의 시간. 나이가 좀 들어 보이는 ‘노땅’ 학생들의 표정이 사뭇 진지하다.

이들은 디지털포렌식(전자 증거물을 수집하고 분석하는 작업)을 공부하겠다고 모인 검찰청 소속 현직 검사와 수사관들. 디지털 범죄가 갈수록 늘어나면서 과학수사는 필수가 됐다. 2013년 서울대는 융합과학기술대학원에 과학수사에 특화된 ‘수리정보과학과’를 개설했다. 수강생은 현직 검사와 수사관들이다. 여름이면 이학석사 학위를 받는 1기 졸업생 10명이 나온다.

○ 신교임 검사 “성폭력의 결정적 증거는 디지털”

“처음 수업을 들었을 때 정말 혼란스러웠어요. 정수론에 함수, 순열, 로그…. 배운 지 20년이 넘었거나 아예 들어본 적도 없는 개념들이었죠.”

신교임 서울고검 공판부 검사(46)는 검찰 내에서 성폭력 사건 전문가로 꼽힌다. 성범죄에서는 피해자의 진술을 제외하면 문자메시지나 폐쇄회로(CC)TV 영상 등 디지털 증거가 대부분인 만큼 원본과 동일하면서도 조작되지 않은 증거를 확보하는 일이 사건 해결에서 가장 중요하다.

그는 “증거물이 원본과 동일한지 확인하기 위해서는 증거물에서 ‘해시값’을 추출하는데, 이게 ‘해시함수’라는 수학 개념에서 나온 것”이라며 “원리를 이해하고 나니 수사를 지휘하는 데 도움이 많이 됐다”고 말했다.

법학을 전공한 ‘전형적인 문과생’이었던 신 검사는 어느새 수학이 친숙한 이과생이 다 됐다. 그는 “2008년 ‘나영이 사건’처럼 성폭력은 신체적, 정신적으로 피해자에게 치명적인 상처를 남긴다”면서 “빅데이터와 정보기술(IT)을 융합해 성폭력 사건이 발생할 만한 장소와 인물을 미리 막을 수 있는 시스템을 만들고 싶다”고 말했다.

○ 이환기 검사 “선거 부정도 디지털포렌식으로”

이환기 대전지검 형사3부 검사(43)는 선거 부정 고발 사건을 담당하면서 디지털포렌식에 발을 들였다. 선거사무소 회계 담당자가 당선자에게 앙심을 품고 선거비용을 초과 사용했다며 고발한 사건이었다.

이 검사는 “증거물로 제출된 회계 파일의 생성 시점이 선거 기간이 아니라 고소 직전이라는 사실을 밝혀내 당선자의 무죄를 입증했다”면서 “이후 디지털포렌식을 전문 분야로 삼아야겠다는 욕심이 생겼다”고 말했다.

처음엔 욕심만큼 머리가 잘 따라주지 않았다. 정수론이나 오일러 공식 등 순수 수학을 왜 배워야 하는지 답답했다. 이 검사는 “공인인증서에 사용되는 ‘RSA 암호체계’가 소인수분해 개념을 활용해서 만들었다는 사실을 알고 나서야 디지털포렌식에 수학이 왜 필요한지 이해하게 됐다”고 말했다.

○ 주민철 검사 “암호화된 개인정보 기준 연구”

주민철 대검 과학수사부 검사(41)는 상대방의 논리를 명쾌하게 누르는 짜릿한 경험을 맛봤다. 한 변호사가 개인정보의 정의에 대해 ‘개인정보가 암호화되면 식별이 불가능한 만큼 개인정보로 볼 수 없다’는 취지의 주장을 펼쳤고, 그 순간 주 검사는 수업에서 배운 암호의 개념을 떠올렸다. 주 검사는 “암호를 풀 수 있는 비밀 키를 갖고 있고, 암호가 쉬워서 누구나 다 알 수 있다면 그건 암호화된 것이라고 볼 수 없다”고 받아쳤다. 주 검사의 논리적인 주장에 상대측은 할 말을 잃고 꼬리를 내렸다.

그는 지난해 신용카드 3사와 KT의 개인정보 유출 사건 수사 경험을 바탕으로 암호화된 개인정보 유출 사건에서 형사책임을 물을 수 있는 기준 설정을 석사 논문 주제로 잡고 연구하고 있다. 그는 “이학석사 학위를 받는다고 생각하니 앞으로 진짜 전문가가 돼야겠다는 책임감이 생긴다”면서 “과학기술과 법 사이에서 다리 역할을 하면서 법률 제도를 개선하거나 새로운 법률을 제정하는 데 기여하고 싶다”고 밝혔다.

최영준 동아사이언스 기자 jxabbey@donga.com