北 기습공격에 AI가 요격 결정? 올트먼 “따져야 할 질문 많다”

美대담서 ‘AI 무기화’ 의견 피력
“인간 관여 시간없을때 가능할수도
어디에 선 그을지 고려할 게 많아”

인공지능(AI)에 전쟁을 맡겨도 될 것인가. 생성형 인공지능(AI) 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO·사진)가 “그러려면 따져 봐야 할 질문이 많다”며 신중한 태도를 보였다. ‘북한의 기습 공격 시 대응 속도가 빠른 AI에 방어를 의존해도 되느냐’는 질문에도 “쉽게 결정할 문제가 아니다”라고 답했다.

올트먼 CEO는 7일 미국 싱크탱크 브루킹스연구소와의 화상 대담에서 이른바 ‘AI 무기화’에 대한 자신의 의견을 피력했다. 마이클 오핸런 선임연구원이 ‘북한이 서울로 유인전투기를 출격시키고 한국이 AI로 통제하는 방어로봇으로 요격하는 상황을 가정할 때 AI에게 인명을 해칠 수 있는 결정을 맡겨도 되겠느냐’고 묻자 “정말 따져야 할 질문이 많다”고 응답했다.

올트먼 CEO는 “전투기가 한국에 다가왔지만 인간이 의사결정에 관여할 시간이 없을 때 AI가 요격 결정을 할 수도 있다”며 “하지만 정말 그런 공격이 일어나고 있는 상황이라고 확신할 수 있나, 어느 정도 확실해야 하나 등 회색지대(grey zone) 어디에 선을 그어야 할지 고려할 게 많다”고 설명했다.

올트먼 CEO의 이 같은 발언은 여러 강대국이 AI 무기화에 속도를 내고 있는 상황에서 인간의 개입 정도 등에 대한 논의가 더 필요하단 뜻으로 풀이된다. 그럼에도 AI 무기화 자체를 반대하는 것은 아니라는 뜻도 내비쳤다. 그는 “AI가 핵무기 발사를 결정할 수 있어야 한다는 주장은 들어본 적이 없다”며 “그렇다고 위급한 상황에서 AI를 사용해선 안 된다는 주장 역시 듣지 못했다”고 말했다.

다만 그는 “우리(오픈AI)는 미국과 동맹의 편”이라며 “AI 기술이 인류에 득이 되길 원하지만 우리가 동의하지 않는 지도층이 있는 국가에 이득을 주길 원하진 않는다”고 덧붙였다. 최근 미국은 AI 무기화에 인간의 개입을 의무화하는 규제를 추진하고 있는 가운데 이달 중으로 중국과 AI 규제 협력을 위한 첫 회의를 가질 예정이다.

각국 정보기관은 첩보전에 AI를 활용하는 경쟁을 치열하게 벌이고 있다. 블룸버그통신은 같은 날 “마이크로소프트(MS)가 미 정보기관을 위해 인터넷과 단절된 생성형 AI 모델을 개발했다”고 보도했다. 그간 생성형 AI를 이용하려 해도 개방된 인터넷에 기반한 만큼 기밀정보가 외부로 유출되거나 해킹당할 수 있다는 우려에 활용이 제한됐다.

시탈 파텔 미 중앙정보국(CIA) 부국장은 최근 열린 안보콘퍼런스에서 “각국 정보기관이 AI 적용을 놓고 치열한 경쟁을 벌이고 있다”며 “정보기관에 AI를 도입하는 첫 나라가 이 전쟁에서 승리할 것”이라고 말했다.

워싱턴=문병기 특파원 weappon@donga.com