“인구 감소로 병력자원 한계… AI강군은 언제쯤?”[테크챗]

동아일보 IT사이언스팀 기자들이 IT, 과학, 우주, 바이오 분야 주목할만한 기술과 트렌드, 기업을 소개합니다. “이 회사 뭐길래?” 기술로 세상을 바꾸는 테크 기업들의 비하인드 스토리! 세상을 놀라게 한 아이디어부터 창업자의 요즘 고민까지, 궁금했던 그들의 모든 것을 파헤칩니다.

“국방AI가 정말 발전하면 징병제를 안하게 될 수도 있다. 인구 감소에 따른 병력 자원 감소에 대응하려면 사람이 아닌 4족보행로봇이 철책선에 가서 이상 징후를 확인하도록 해야한다. 국방AI를 통한 군의 효율화·지능화가 반드시 필요한 시점이다.”

김영섬 코난테크놀로지 대표는 최근 동아일보와의 인터뷰에서 “이미 병력자원이 감소하고 있고, 대외 전쟁으로 인한 무인화 및 자동화의 중요성이 커지고 있다. 이 두 가지 요소만으로도 국방 AI 필요성은 자명하다”며 이같이 말했다. 

미래 전장 환경에서 AI 기반 유·무인 복합체계 등이 핵심 전투 요소로 떠오르면서 미국 영국 등 주요국들이 국방AI 플랜을 앞다퉈 고도화하고 있다. 10여 년간 국군과 국방 AI 분야 사업을 수행해온 김 대표는 국방AI 고도화의 선결 조건으로 데이터 확보를 들었다. 김 대표는 “미국 정부의 경우 엄격한 통제 하에 ‘팔란티어’ 등 기업에 군사 데이터를 열어줬고, 그덕에 팔란티어가 급성장할 수 있었다”며 “우리나라는 국방 데이터와 관련해선 전부 군사기밀이라 현장에 다 두고 나와야 해 발전에 한계가 있다”고 지적했다.

지난달 16일 영·장관급 200여명이 참석한 코난테크놀로지 주최 ‘국방 AI 테크 서밋’에서도 김 대표는 “실제 데이터 없이는 팔란티어도, 안두릴도 아무것도 할 수 없다”며 “국방 AI 발전을 위해 군이 보유한 데이터를 개방하고 적극 활용해야 한다”고 강조했다. 

코난테크놀로지는 AI를 활용한 정밀타격 등 미래전 양상의 변화, 무인화·자동화 수요 증가, 지능형 의사결정, 지휘통제 체계 강화에 집중하며 국방 분야 AI 사업을 펼치고 있다.

대표적으로 △국방 지능형플랫폼 구축사업(국방부) △전국 합동화력 운용체계 성능 개량(방위사업청) △장비판독 AI모델 개발(육군항공사령부) △스마트 인재관리시스템 구축(국군재정관리단) △AI 기반 공중무인체계 영상 통합분석 기술 실증 사업(해병대사령부)등을 수행했다. 현재는 민간방산전문기업을 포함해 20여곳의 고객사와 국방 사업을 진행 중이다. 또한 코난테크놀로지 지분 10%를 보유한 한국항공우주산업(KAI)과 협업해 미래 비행체와 PHM(고장과 수명 예측 시스템), 무인기, 드론, 위성 등을 개발하겠다는 목표다.

김영섬 코난테크놀로지 대표. 코난테크놀로지 제공

정부가 ‘소버린AI’를 강조하고 있다. 해외 기술에 의존하지 않는 소버린AI가 가장 필요한 곳이 바로 국방 분야다. 무기체계 예지정비(PHM), 지휘통제 의사결정 지원, 영상정보 분석 등에서 어떻게 활용될 수 있나.

“국방AI 사업은 크게 4가지 영역으로 구분된다. △지능형전장인식판단 △지능형통합지휘결심분야 △국방AI플랫폼분야 △스마트전력지원 등이다. AI 기반 적 위협 분석, 공격 우선순위 결정, 정밀타격 기술 고도화 등이 대표적이다.

북한의 군 사열 영상을 데이터로 분석하거나, 전쟁에서 사용된 무인기의 종류나 스펙을 정확히 분석할 수도 있다. 코난테크놀로지는 이 중 전장인식판단 및 지휘결심 분야에서 AI화력운영시스템개발, 장비판단AI모델, AI기반 공중무인체계 영상통합분석 기술실증 사업 등을 수행했다.”

보안 문제로 군사 데이터 확보가 어려운데, 앞으로 발전 방향은

“국방 분야에서는 6.25 전쟁, 월남전 이후 전장 상황에 대한 실제 데이터가 거의 없다. 이때문에 합성데이터나 데이터 증강 기술, 생성형 AI 기술을 활용해 인식(상황 파악), 판단(상황 분석), 지휘결심(의사결정 지원)이 가능한 데이터를 생성하고 학습하고있다.

국방 정보 수집과 분석 데이터, 무기체계의 운용 데이터, FA-50, KF-21 등 군용 항공기의 운용 데이터 등에 현재 민간 소프트웨어 개발 업체가 접근할 수 없는 구조다. 실 데이터의 부재는 기술 개발에 결정적 장애가 되고 있다. 미국과 유럽의 경우 민간 업체가 엄격한 보안 통제 하에 데이터에 접근할 수 있어, 팔란티어 등이 초거대 기업으로 성장할 수 있었다.”

폐쇄망(On-Premise) 환경에서 거대언어모델(LLM)을 운영해 데이터 유출을 원천 차단한다는 전략을 제시했는데, 모델의 환각(Hallucination)이나 군사 기밀 유출을 방지하기 위해 어떤 기술적 조치가 가능한가

“폐쇄망(On-Premise) 환경에서 LLM을 운영할 때 환각과 기밀 유출을 방지하기 위해 다양한 기술적·운영상 조치를 고려하고 있다. 우선 검색증강기술(RAG)을 활용해 외부 지식베이스와 연동함으로써 환각을 최소화하고, 에이전틱(Agentic) AI 등 체계적인 워크플로우를 적용해 결과물의 신뢰성을 높이고 있다. 지속적인 데이터 업데이트와 국방 도메인 특화 데이터로의 파인튜닝을 진행하고 있다.

민감한 기밀 유출 방지를 위해서는 입력과 출력 데이터에 대한 접근 권한을 엄격히 제한하고, 모든 요청 및 응답을 감사 로그로 남겨 이상 징후를 탐지한다. 입력·출력 단계에서 개인정보나 기밀 정보가 포함될 경우 자동으로 탐지·마스킹하는 필터링 시스템을 구축하고, 모델의 응답이 외부로 유출되기 전 별도의 검증 시스템을 통해 민감 정보 포함 여부를 점검하고있다. 무엇보다 외부 네트워크와 완전히 분리된 폐쇄망 내에서 LLM을 독립적으로 운영함으로써 네트워크를 통한 데이터 유출 가능성을 원천적으로 차단하고 있다.”

업계에선 데이터 한계, 복잡한 승인 절차 등의 강력한 규제가 AI 도입을 지연시키는 걸림돌로 지적하고 있다.

“정부와의 협업 과정에서 가장 큰 어려움은 망 분리와 데이터 공유 제한, 복잡한 승인 절차 등 강력한 보안 규제로 인해 AI 기술 도입과 테스트가 지연된다는 점이다. 이런 어려움을 해소하기 위해 실증사업 등에서 검증이 완료된 기술은 신속하게 본사업으로 확대 적용할 수 있는 구체적인 방안이 마련되길 바란다.”

장은지 기자 jej@donga.com