“한국도 ‘AI 무기화 반대’ 적극 동참을”

컴퓨터 과학자 토비 월시 교수

“한국은 미국과 러시아, 중국, 영국, 이스라엘 등과 함께 인공지능(AI)을 무기화하는 데 반대 입장을 명확히 하지 않는 나라로 분류됩니다. 무기화가 이뤄지기 전에 이를 금지하는 국제적인 노력에 동참해야 합니다.”

컴퓨터 과학자인 토비 월시 호주 뉴사우스웨일스대 교수(사진)는 지난해 세계 29개국 AI 전문가 57명과 함께 KAIST와의 연구 교류를 중단하겠다는 보이콧 선언을 했다. KAIST가 한화시스템과 함께 세운 국방AI융합연구센터를 통해 AI의 무기화를 추진한다는 이유에서였다.

당시 보이콧은 KAIST 측이 신성철 총장의 해명과 ‘유의미한 인간 통제’하에서 작동하는 AI를 개발하겠다는 약속을 내놓으면서 일단락되는 듯했다. 하지만 월시 교수는 지난달 30일 미국 뉴욕타임스와의 인터뷰에서 “한국이 AI 자율살상무기 금지를 위한 국제적 협약에 반대하고 있다”며 다시 한번 논란의 불씨를 지폈다.

월시 교수는 7일 이뤄진 이메일 인터뷰에서 한국이 AI 무기 금지협약 추진에 적극적인 태도를 보이지 않고 있다고 지적했다. 그는 “2014년 5월 유엔이 개최한 자율무기시스템 전문가 회의에서 한국 측은 군사 목적으로 활용되는 로봇 운영과 관련해 윤리 문제에 신경 쓰고 있다고 밝혔지만 한국 정부는 유럽연합과 세계 과학자들, 노벨 평화상 수상자, 종교계가 추진하는 AI자율살상무기 금지협약에 참여하지 않고 있다”고 지적했다.

월시 교수는 2000년 초반부터 AI 관련 연구를 진행하다 무기화 반대 운동을 계기로 행동파 AI 전문가로 활약하고 있다. 2013년부터 AI자율살상무기 생산을 금지하는 국제적 운동에 참여해 ‘캠페인 투 스톱 킬러로봇(살상로봇 금지 캠페인)’을 주도하고 있다. 현재 호주 국립정보통신기술연구소(NICTA)에서 과학국장도 맡고 있다.

그는 “AI는 인간이 가진 도덕, 양심, 감정을 가지지 못했다”며 “AI가 인간의 목숨을 결정하고 무기화한다면 화학무기, 핵무기 같은 대량살상무기보다 더 큰 파괴력을 지니게 될 것”이라고 우려했다.

일각에서는 월시 교수의 이런 주장이 분단 상태로 대치 중인 한국의 상황을 간과한 것이라는 지적도 나온다. 안보 위협이 지속되는 상황에서 한국도 AI 무기를 만들어 이에 대비해야 하는 것 아니냐는 비판이다. 월시 교수는 이에 대해 “한반도의 평화를 유지하기 위해 한국이 방어용으로 AI를 사용할 방법은 얼마든지 있다”며 “다만 이런 방어용 AI 무기도 인간의 통제 밖으로 벗어나서는 안 된다”고 강조했다.

월시 교수는 “사람을 해치는 무기가 아닌 사람을 살리는 데 AI를 활용해야 한다”면서 “민간 앰뷸런스가 지나가면 미사일 발사를 곧바로 멈추게 하는 것이 AI 자율 시스템이 쓰여야 할 분야”라고 했다.

북한의 AI 자율살상무기 소유에 대해서는 더 심각한 우려를 나타냈다. 3차원(3D)프린터로 값싸고 손쉽게 제조된 AI 자율살상무기가 북한의 손에 얼마든지 들어갈 수 있다는 것이다. 월시 교수는 “본격적으로 AI 무기 생산이 시작되고 방산업체가 판매할 수 있는 권한을 얻게 된다면 AI 무기는 더 싸질 것이며 구하기도 쉬워질 것”이라며 “핵무기를 얻기 위해 했던 그간 노력들을 보면 북한은 머지않아 중국이나 AI 무기가 허용된 국가를 통해 AI 무기를 확보하게 될 것으로 본다”고 말했다.

월시 교수는 AI 자율살상무기 확산 과정에서 한반도가 가장 위험한 지역으로 전락할 가능성에 대해서도 걱정했다. 그는 “비무장지대(DMZ)에서 한국과 북한의 로봇들이 예상치 못한 방향으로. 그리고 원하지 않은 방향으로 전쟁을 벌일 수도 있다”며 “오히려 한반도를 전쟁의 구렁텅이로 몰고 갈 수 있다”고 지적했다.

월시 교수는 마지막으로 “이대로 AI에 기반을 둔 자율살상무기가 확산하면 우리 인류가 미처 알기도 전에 AI가 마음대로 핵전쟁을 벌이는 시대가 오지 않으리라는 법은 없다. 우리에겐 아직 그런 미래를 막을 수 있는 시간이 조금은 남아 있다”고 말했다.

고재원 동아사이언스 기자 jawon1212@donga.com