“딥시크, 생물학 무기 정보-피싱 메일도 생성”…히틀러 옹호 선언문도 작성

美 AI 앤트로픽 CEO 다리오 아모데이

오픈AI의 대항마인 미국 인공지능(AI) 스타트업 앤스로픽의 다리오 아모데이 최고경영자(CEO)가 중국 AI 서비스 딥시크(Deepseek)에 대해 “생물학 무기 정보를 생성했다”고 비판했다. 딥시크가 이용자의 개인정보를 수집해 자국 서버로 전송하는 등 보안상의 허점을 드러내는 데 이어, 사회적으로 위험한 정보도 자체 검열 없이 계속 생성한다는 지적이 나오는 것이다.

9일(현지시간) 테크브런치 등 외신에 따르면 아모데이 CEO는 최근 한 팟캐스트 인터뷰에서 “딥시크는 우리가 안전 테스트를 수행한 모든 AI 모델 가운데 안전성 측면에서 최악”이라며 이같이 밝혔다. 그는 “딥시크 개발팀은 매우 재능있는 엔지니어들이지만, AI 안전에 대한 문제의식을 진지하게 받아들여야 할 것”이라고 지적했다.

월스트리트저널(WSJ)도 이날 딥시크가 히틀러 옹호 선언문이나 청소년들의 자해를 조장하는 정보, 악성 코드가 포함된 피싱 이메일을 생성하는 등 위험성이 높다고 보도했다. 글로벌 보안기업인 팔로알토네트웍스의 샘 루빈 부사장은 “딥시크는 악성 콘텐츠 생성을 방지하기 위한 최소한의 안전 장치가 없다”고 지적했다. 이와 반대로 챗GPT 같은 기존 생성형 AI는 위험한 지시를 내렸을 때 이를 거부했다고 WSJ은 보도했다.

반면 ‘클로드’를 개발한 앤스로픽 등 많은 AI기업들은 안전 전문 연구팀을 투입해 모델을 테스트하고 위험 정보의 생성을 막기 위해 노력하고 있다. 앤스로픽은 최근 자사 시스템을 무력화시키는 데 성공한 개발자에 최대 2만 달러의 포상금을 지급하겠다고 밝히는 등 안전 기술을 고도화하는데 역량을 투입하고 있다. 업계에선 딥시크가 개발 비용을 무리하게 낮춰 경제성을 확보하는 대신 보안 측면을 희생시킨 것으로 보고 있다.

한편 보안 우려 등의 이유로 정부를 비롯해 공공기관과 기업까지 딥시크 금지령이 확산하는 가운데 국내 딥시크 사용량도 급감했다.

9일 시장조사기관 아이지에이웍스 모바일인덱스에 따르면 딥시크 앱 일간 사용자수는 지난달 28일 19만1556명으로 정점을 찍은 뒤 29일 13만2781명, 30일 9만6751명을 기록하며 확연한 감소세를 보였다. 딥시크 사용 제한 움직임이 본격화한 이달 4일의 경우 일간 사용자는 7만4688명까지 떨어졌다. 딥시크가 챗GPT와 맞먹는 성능을 저비용에 개발했다는 소식에 관심이 커졌으나, 안전 우려가 확산하자 사용 자제 움직임이 나타난 것으로 풀이된다.