“내 챗GPT 질문, 밖에 샜다”…크롬 악성 프로그램서 대화 정보 빼돌려

90만명 설치한 확장 프로그램, 사용자 대화·검색 정보 무단 수집
‘익명 데이터 수집’ 명목으로 속여…“즉시 삭제해야”

ⓒ뉴시스

 최근 챗GPT 등 인공지능(AI) 챗봇 사용이 늘어난 가운데 이를 활용한 크롬 확장 프로그램이 이용자의 프롬프트(대화) 전문과 검색 정보 등을 몰래 빼돌려온 사실이 확인됐다.

7일 이스라엘 보안 기업 ‘OX시큐리티’에 따르면 이 회사는 최근 크롬 웹 스토어에서 ‘챗GPT 포 크롬 위드 GPT-5, 클로드 소네트 & 딥시크 AI’, ‘AI 사이드바 위드 딥시크, 챗GPT, 클로드 앤 모어’가 사용자의 대화 내용과 모든 크롬 탭의 URL 정보를 공격자 제어 서버로 무단 유출하고 있다는 점을 발견했다.

두 프로그램은 확장 프로그램 ‘AI토피아’를 사칭했다. AI토피아는 모든 웹사이트 상단에 사이드바를 만들어 인기 AI 챗봇과 대화할 수 있도록 돕는 인기 확장 프로그램 중 하나다. 공격자들은 이 정상 프로그램 기능과 인터페이스를 그대로 복제한 뒤 그 위에 대화 데이터를 탈취하는 악성 코드를 넣은 것으로 나타났다.

특히 공격자들은 코딩 플랫폼 ‘러버블’을 악용해 개인정보 처리방침과 인프라를 구축함으로써 추적을 회피하는 치밀함도 보였다.

현재까지 약 90만명의 이용자가 두 프로그램을 설치한 것으로 파악됐다. 특히 ‘챗GPT 포 크롬 위드 GPT-5, 클로드 소네트 & 딥시크 AI’의 경우 구글로부터 ‘추천’ 배지를 받았으며 4.6점의 높은 평점을 유지하고 있다. 일반 사용자들한테는 보안 검증을 마친 안전한 공식 도구로 잘못 볼 위험이 크다.

이들 프로그램은 설치 과정에서 ‘익명화된 비식별 분석 데이터 수집’에 대한 동의를 요구하며 적법한 절차로 속였다. 실제로는 사용자가 챗GPT나 딥시크에 접속하는 순간 페이지 내 문서 객체 모델(DOM) 요소를 실시간 감시해 사용자 질문, AI의 답변 내용 등을 통째로 추출해 로컬 데이터베이스에 저장했다.

또 수집된 대화 내용과 현재 열려 있는 모든 브라우저 탭의 URL 정보를 30분마다 공격자의 명령·제어(C2) 서버로 전송했다. 사용자가 확장 프로그램을 삭제하려 할 경우 자동으로 다른 악성 프로그램 설치 페이지를 새 탭으로 띄워 삭제를 방해하거나 재감염을 유도하는 수법도 확인됐다.

OX시큐리티는 유출된 데이터에 단순 대화뿐만 아니라 기업 기밀 소스 코드, 비즈니스 전략, 개인식별정보(PII) 등이 포함될 수 있다며 기업 스파이 활동이나 피싱 등 2차 피해 우려가 크다고 말했다.

이 회사는 사용자의 AI 프롬프트를 몰래 가로채는 이 수법을 ‘프롬프트 포칭’ 공격이라 정의했다. 아울러 구글 ‘추천’ 배지가 반드시 보안성을 보장하는 것은 아닌 만큼 이미 설치한 사용자는 즉시 크롬에서 해당 프로그램을 제거해야 한다고 전했다.

한편 OX시큐리티는 해당 사실을 구글에 알렸다. 뉴시스 확인 결과 현재 ‘AI 사이드바 위드 딥시크, 챗GPT, 클로드 앤 모어’ 프로그램은 삭제된 것으로 추정된다.

[서울=뉴시스]