“中정부 추정 세력, 위구르족 감시도구 개발에 챗GPT 활용 정황”

CNN 보도…소수민족 감시하고 온라인여론 통제 시도
AI 기술 패권 경쟁 속 드러난 ‘어두운 이면’

ⓒ뉴시스

챗GPT 개발사 오픈AI는 중국 정부와 연계된 것으로 보이는 세력이 자사 인공지능(AI)을 대규모 감시 도구 개발에 활용한 정황을 포착했다고 7일(현지시간) 밝혔다.

CNN에 따르면 이들은 챗GPT를 이용해 위구르족 등 소수 민족을 감시하고 온라인 여론을 통제하려고 시도한 것으로 드러났다.

한 중국인 사용자는 위구르족 등 ‘고위험’ 인물의 이동 경로와 경찰 기록을 분석하는 감시 도구 제안서를 작성하는 데 챗GPT의 도움을 요청했다.

또 다른 사용자는 엑스(X)와 페이스북 등 사회관계망서비스에서 정치적·종교적 콘텐츠를 검열하는 도구의 홍보 자료를 만드는 데 챗GPT를 사용했다.

오픈AI는 해당 사용자들의 계정을 모두 정지시켰다고 발표했다.

벤 니모 오픈AI 수석 조사관은 CNN 인터뷰에서 “중국 내에서 AI를 대규모 감시와 모니터링에 더 잘 활용하려는 움직임이 있다”며 “중국 공산당이 자국민을 감시하기 시작한 건 어제오늘 일이 아니지만 이제 AI를 통해 감시 능력을 더 향상하려 하고 있다”고 분석했다.

중국 측은 이 같은 의혹을 강하게 부인했다. 류펑위 주미 중국대사관 대변인은 “중국에 대한 근거 없는 공격과 비방에 반대한다”며 “중국은 개발과 안보의 균형을 강조하는 국가적 특색을 지닌 AI 거버넌스 시스템을 빠르게 구축하고 있다”고 주장했다.

AI 악용은 중국만의 문제가 아니라고 오픈AI는 지적했다. 보고서는 러시아와 북한의 해커들도 피싱 메일의 완성도를 높이거나 코드를 다듬는 등 기존 사이버공격 기술 개선을 위해 챗GPT를 활용하고 있다고 밝혔다.

오픈AI의 또 다른 보안 전문가 마이클 플로스먼은 “적대 세력들이 완전히 새로운 종류의 사이버공격을 발명하는 게 아니라, 기존 수법을 세련되게 다듬는 데 AI를 쓰고 있다”고 말했다.

(서울=뉴스1)