“딥페이크 등 AI 공격 진화… ‘AI 레드팀’으로 사각지대 해소해야”

크게보기

24일 오전 서울 중구 웨스틴조선에서 열린 2026 동아 인포섹-정보보호 콘퍼런스에서 허영 더불어민주당 의원이 축사를 하고 있다. 이한결 기자 always@donga.com

딥페이크 등 생성형 인공지능(AI)을 악용한 금융권 사이버 공격이 급증하는 가운데 인간과 AI가 협업해 보안 취약점을 찾아내는 ‘AI 레드팀’을 꾸려 적극 대응해야 한다는 제언이 나왔다. 금융 당국은 보안 위협이 정교하게 진화하고 있는 만큼 금융회사가 정보보호 관련 지배구조, 예산, 인력 등을 공시하도록 의무화하는 방안을 추진할 방침이다. 최근 60조 원대 비트코인 오지급 사건이 발생한 만큼 금융보안 규제 대상도 가상자산사업자, 자산운용사 등으로 확대된다.

동아일보와 채널A 주최로 24일 오전 서울 중구 웨스틴 조선 호텔에서 열린 ‘2026 동아 인포섹-정보보호 콘퍼런스’는 ‘신뢰 회복, 금융이 주도하는 디지털 보안’을 주제로 진행됐다. 이른바 ‘나쁜 AI’를 막기 위한 ‘착한 AI’ 활용 방안부터 스테이블코인 산업의 주도권을 가져가기 위한 금융권의 보안 및 신뢰 확보 전략까지 다양한 의견이 공유됐다.

연사들은 금융사가 보호해야 하는 고객 자산이 계정과 데이터에 국한되지 않고 인증서, 애플리케이션, 클라우드 등으로 폭발적으로 증가해 보안 사고 위험이 과거보다 훨씬 커졌다고 진단했다.

크게보기

24일 오전 서울 중구 웨스틴조선에서 열린 2026 동아 인포섹-정보보호 콘퍼런스에서 최승우 KB금융지주 경영연구소 차장이 사례발표를 하고 있다. 이한결 기자 always@donga.com

최승우 KB금융지주 경영연구소 차장은 “생성형 AI 기반으로 실제 인물의 외형과 목소리를 모사해 만들거나, 악의적인 데이터를 주입해 금융권 AI의 오작동 유발하는 등 AI가 실질적인 보안 위협이 됐다”고 말했다.

이에 따라 보안 취약점을 보완하는 화이트 해커(인간)와, 자동화 침투 테스트(AI)가 조화롭게 협업하는 ‘AI 레드팀’의 역할이 중요해졌다는 지적이 나온다. AI 레드팀은 공격자의 관점에서 AI 시스템의 결함을 미리 찾아내는 조직을 뜻한다. 김태진 라온시큐어 최고기술책임자(CTO)는 “시키는 일만 하는 AI, 목표를 알아서 처리하는 ‘AI 에이전트’에서 더 나아가 사람처럼 판단하는 AI가 도래한 만큼 사람과 AI 권한 및 작업 범위를 명확하게 할 필요가 있다”고 말했다. 최대현 하나은행 정보보호본부장은 “화이트해커를 통해 보안 위협을 심층 분석하고, 자동화 침해 및 공격 시뮬레이션을 통해 보완해야 한다”고 덧붙였다.

다양한 금융사들의 보안 체계도 소개됐다. 지정호 비바리퍼블리카 정보보안최고책임자(CSIO)는“24시간 365일 체계 관제 체계에서 자체 탐지 시나리오 700여 종을 운영하는 등 보안 체계를 강화하고 있다”고 말했다.

금융 당국은 금융사에 정보보호 관련 지배구조와 예산, 조직 인력을 공시토록 의무화하는 등 관리 감독을 강화할 계획이다. 유영준 금융위 디지털금융정책관은 “IT 서비스의 직접 제공자가 아닌 관계사도 금융권 정기 합동훈련에 참여시키고, 가상자산사업자, 자산운용사 등 전자금융거래법 미적용 회사도 규제 대상으로 포섭하겠다”고 강조했다.

스테이블코인 산업의 보안 전략도 제시됐다. 스테이블코인을 안착시키기 위해 금융회사들이 준비금을 기본적으로 갖추되 코인 발행과 소각을 할 권한 등 기능은 분권화할 필요가 있다는 설명이다.

허세경 금융보안원 디지털자산실장은 “(스테이블코인 산업의 보안을 위해) 누가 어떤 절차에 따라 어떤 기록을 남기며 권한을 실행하는지가 중요해졌다”라면서 “한 명이 아니라 다중 승인을 받도록 하고, 접근 권한도 분리하는 방식을 택해야 한다”고 말했다.

이날 행사에는 국회 정무위원회 소속 허영 더불어민주당 의원, 이세훈 금융감독원 수석부원장, 박상원 금융보안원장, 조용병 은행연합회장, 김철주 생명보험협회장, 이병래 손해보험협회장, 정완규 여신금융협회장, 오화경 저축은행중앙회장과 정보보안 실무 부서 관계자 등 170여 명이 참석했다.

허 의원은 이날 축사를 통해 “안전 없는 혁신은 모래성에 불과한 만큼 현장 전문가의 역할이 중요하며, 국회도 지원에 나설 것”이라고 강조했다. 이 수석부원장은 “최근 잇따른 대형 침해사고로 국민 불안감이 고조된 상황”이라면서 “아무것도 신뢰하지 말고 항상 검증하는 자세로 빈틈없이 대비해야 한다”고 강조했다.