국정원 “AI 설계 단계부터 보안 챙겨라”…美·英과 공동 권고

뉴스1

미국·영국·호주 등 해외 사이버안보 기관과 AI 보안 방안 발표

국가정보원과 해외 주요 사이버안보 기관이 인공지능(AI) 설계 단계부터 보안 대책을 마련하라고 권고했다.

국정원은 5일 호주 신호정보부(ASD), 미국 국가안보국(NSA) 등 주요 7개국 사이버안보 기관과 ‘AI 공급망 위험·완화방안’을 공동 발표했다.

이번 권고문에는 국가정보원과 호주 ASD, 미국 NSA, 캐나다 사이버안보센터(CCCS), 싱가포르 사이버보안청(CSA), 뉴질랜드 사이버안보센터(NCSC-NZ), 일본 국가사이버총괄실(NCO), 영국 사이버보안센터(NCSC)가 참여했다.

이들은 AI 공급망 구조가 복잡해 ‘백도어’ 은닉 가능성 등이 있다며 관련 보안 대책 마련을 촉구했다.

AI 공급망은 하나의 AI 시스템을 만들고 사용자에게 서비스하기까지 거치는 모든 과정과 필요한 구성 요소들의 연결고리를 뜻한다.

이번 권고문은 AI를 배포한 뒤 보안 대책을 마련하는 것이 아니라, 설계 단계부터 보안을 내재화해야 한다는 내용을 골자로 한다.

구체적으로는 △데이터 △머신러닝 모델 △소프트웨어 △인프라·하드웨어 △제삼자 서비스 등 항목에서 AI 공급망 보안 위험 요소와 완화 방안을 기술했다.

보안 당국은 신뢰할 수 있는 데이터를 사용해 위험 요소를 완화하라고 권고했다. 품질이 낮고 편향된 AI 데이터는 모델의 판단 오류를 초래할 수 있기 때문이다.

또한 머신 러닝 모델에서 악성 코드 은닉과 백도어 삽입 등 보안 사고가 발생할 수 있기에, 안전한 파일 형식 및 투명한 모델을 사용하라고 권장했다.

AI 인프라에 기존 정보 보안 시스템 보안 원칙을 적용해 네트워크 분리와 자체 인증 등을 통해 관리해야 한다고도 설명했다.

‘AI 공급망 위험·완화방안’ 관련 자세한 내용은 국정원 홈페이지에서 확인할 수 있다.

(서울=뉴스1)