오픈AI “中, 챗GPT로 다카이치 日총리 음해 시도…계정 차단”

다카이치 사나에 일본 총리가 2월 24일 도쿄 중의원 본회의에 참석해 발언하고 있다. 사진=교도통신/게티이미지

오픈AI가 중국 법집행기관과 연계된 인물이 챗GPT를 활용해 일본 총리를 겨냥한 온라인 영향력 공작을 시도한 정황을 포착하고 관련 계정을 차단했다고 밝혔다.

26일(현지시간) 오픈AI가 공개한 ‘악의적 사용 차단(Disrupting Malicious Uses of AI)’ 보고서에 따르면 해당 사용자는 챗GPT를 이용해 일본 다카이치 사나에 총리를 비판하는 온라인 캠페인 기획 문서와 내부 보고서를 작성·수정하려 한 것으로 나타났다.

오픈AI는 이 계정을 중국 법집행기관과 연계된 인물의 활동으로 판단하고, 영향력 작전 설계 과정에서 자사 모델 사용 요청을 거부한 뒤 계정을 차단했다고 밝혔다.

● AI 활용한 ‘영향력 정치 공작’ 시도

보고서에 따르면 해당 사용자는 소셜미디어 게시물 작성, 정치인 대상 항의 이메일 발송, 여론 확산 전략 설계 등 이른바 ‘비밀 영향력 작전(Influence Operation)’을 구체화하는 데 챗GPT 활용을 시도했다.

오픈AI는 챗GPT가 해당 캠페인 개선 요청을 거부했으며, 이후 동일 작전이 중국 내 자체 AI 모델을 활용해 진행됐을 가능성이 있다고 밝혔다.

이번 사례는 생성형 AI가 정보전·여론전에 활용될 수 있음을 보여준 사례로 평가된다. 오픈AI 조사팀의 벤 니모(Ben Nimmo) 수석 연구원은 “이 같은 사이버 영향력 작전은 대규모 인력과 자원이 투입되는 산업화된 활동 양상을 보이고 있다”고 말했다.

● 정치 공작 넘어 범죄 전반으로 확산된 AI 오남용

보고서는 생성형 AI가 정치 공작뿐 아니라 각종 온라인 범죄에도 활용되고 있다고 지적했다. 일부 계정은 챗GPT를 이용해 가짜 데이팅 서비스 홍보 문구와 광고를 제작해 연애 사기를 벌였으며, 실제 법률회사나 미국 정부 관계자를 사칭한 메시지를 작성하는 데도 AI가 사용된 것으로 나타났다.

또 다른 사례에서는 미국 공공기관 인사 정보를 수집하거나 얼굴 합성(face-swap) 소프트웨어 관련 정보를 요청한 정황도 확인됐다.

ⓒ뉴시스

● 실제 온라인 파급력은 제한적

다만 오픈AI는 일본 총리 관련 영향력 작전의 실제 확산 효과는 크지 않았다고 평가했다. 조사 결과 약 5만 건 이상의 게시물이 여러 플랫폼에 올라왔지만 의미 있는 공유나 댓글 반응을 얻은 사례는 제한적이었으며, 실제 여론 형성에는 큰 영향을 미치지 못한 것으로 분석됐다.

이번 사례는 기존 온라인 영향력 공작이 생성형 AI를 통해 더욱 빠르고 대규모로 수행될 수 있음을 보여준 사례로 해석된다.

한편 마오닝 중국 외교부 대변인은 정례 기자회견에서 관련 질문에 대해 “해당 상황을 알지 못하며 이러한 주장을 뒷받침할 근거도 보이지 않는다”고 말했다고 블룸버그 통신은 전했다.