AI가 대신 누른 방아쇠…인간 없는 전쟁이 시작됐다

인간 없는 전쟁/최재운 지음/368쪽·1만9800원/북트리거

지난해 6월, 러시아의 전략폭격기 기지 곳곳에 소형 드론(무인기) 떼가 나타났다. 우크라이나 보안국이 ‘스파이더 웹’이라 명명한 작전. 인공지능(AI)을 탑재한 드론 부대는 러시아 군용기를 형체도 남기지 않고 불태웠다. 드론은 인간의 지시 없이도 피아 식별이 가능했다. 최고의 조종사가 비싼 전투기에 올라타 목숨 걸고 적군과 교전하는 영화 ‘탑건’의 시대는 이제 끝나가고 있는 게 아닐까.

‘머신러닝’ 전문가이자 광운대 경영학부에서 빅데이터 경영을 가르치는 저자는 “판도라의 상자는 이미 열렸다”고 말한다. 지난해를 기준으로 군사용 드론을 쓰거나 개발하는 국가는 100개국을 넘어선 것으로 추정된다. 드론의 확산 속도는 1947년 개발된 AK-47 소총의 보급 속도보다도 빠르다. 저자는 “과거에는 더 많은 탱크와 미사일을 가진 부자가 승자였지만, 이제는 가난한 쪽에도 승산이 있다. 드론은 싸고 쉽고 효과적”이라고 했다.

책은 기계가 인간의 전쟁에 도입된 역사를 되짚으며 시작된다. 1991년 걸프 전쟁은 ‘인간이 기계에 항복한 날’로 불린다. 이라크 군인들은 미 해군의 무인 정찰기와 정밀 유도 무기 앞에 백기를 들었다. 그로부터 29년 뒤, 역사상 처음으로 ‘완전 자율 무기’가 사람을 공격했다. 2020년 북아프리카 리비아 내전에 투입된 자폭 드론 ‘카르구-2’는 통신 두절 상황에서도 도주 중인 적군을 스스로 찾아내 타격했다.

2002년 개봉했던 공상과학(SF) 영화 ‘마이너리티 리포트’도 현실화했다. 스티븐 스필버그 감독이 연출한 이 영화는 범죄자를 예측하는 첨단 시스템 ‘프리 크라임’이 작동하는 2054년의 사회를 그렸다. 실제로 오늘날 중동 가자지구에선 이스라엘군이 특정 주민이 무장대원일 가능성을 분석하는 AI 킬체인(Kill Chain)을 운용하고 있다. ‘라벤더’라는 이름의 이 AI는 주민 개개인의 행동 패턴을 분석해 위험 점수가 높아지면 군사 표적으로 자동 분류한다.

영화 속 ‘프리 크라임’이 인간 예지자 3명의 역량에 의존해 패턴을 분석하는 것과 달리, ‘라벤더’에선 인간이 거의 빠져 있다. 인간 장교들은 AI가 추천한 표적을 재검증하는 대신 “남성인지 아닌지만 확인”한다. 대신 AI가 표적 동향을 살펴 패턴을 분석하고, 가족의 품으로 돌아가는 순간을 기다렸다가 공격을 개시한다. 심리전에서의 변화는 더 극적이다. 미군이 시험 중인 ‘고스트 머신’은 적군 지휘관의 목소리로 허위 명령을 발송하고, 개개인에게 최적화된 심리전 메시지를 자동 생성한다.

하지만 이러한 기술이 주로 민간 기업에 의해 개발되는 상황은 문제다. 제2차 세계대전을 비롯한 지난 전쟁에서는 국가가 방산 기술 발전을 주도했다. 그러나 이제는 스페이스X나 팔란티어 등 거대한 실리콘밸리 기업들이 앞서가고 있다. 책은 “(기업들이) 자사 기술의 테스트베드로 전쟁을 활용하고 있다”며 “팔란티어가 개발한 AI 표적 식별 소프트웨어는 우크라이나의 드론 공격 명중률을 기존 50%에서 최근 80%로 끌어올렸다”고 설명했다.

저자는 세계가 기술적 원칙을 세워야 한다고 강조한다. AI의 목표와 행동을 ‘공동의 안전’ ‘정직’ ‘친절’ 등 인류의 가치와 일치시킬 것, AI의 의사 결정 프로세스를 투명하게 공개하고 인간의 주도적 판단이 개입할 수 있는 인터페이스를 구현할 것 등이다. AI 대전환 시대, 저자의 목소리는 더 묵직하게 다가온다.

“숫자와 화면 너머 실제 인간의 삶을 떠올려야 한다. 생명을 빼앗는 결정에는 그 무게를 통감할 수 있는 존재가 필요하다.”