‘안전 우선’ 앤스로픽과 결별한 美정부…AI윤리 논쟁 확산

이란공습-마두로 체포 일조한 앤스로픽
“자율 살상무기 개발엔 AI 제공 못한다”
美정부, AI 상업화 앞장선 오픈AI 손잡아

미국의 대표 인공지능(AI) 기업들로 숙명의 라이벌인 앤스로픽과 오픈AI가 AI 윤리 논쟁을 둘러싸고 또 한번 대척점에 섰다. 자사 AI 모델이 이란 공습과 니콜라스 마두로 베네수엘라 대통령 체포 작전에 사용된 앤스로픽은 미국 도널드 트럼프 행정부에 ‘AI 군사화’를 제한하는 안전장치를 요구했다. 그러자 미 국방부(전쟁부)는 전면적인 군사적 활용을 선언하며 앤스로픽을 단계적으로 퇴출키로 했다. 대신 국방부는 오픈AI와 전격적으로 손을 잡았다.

앤스로픽과 오픈AI의 엇갈린 선택을 두고 “태생부터 라이벌이었던 두 기업의 운명적 대결”이라는 평가가 나온다. 파괴적 기술 경쟁이 시작될 것을 우려해 클로드의 출시를 미룬 앤스로픽과 이와는 대조적으로 2022년 11월 생성형 AI 모델 챗GPT를 내놔 업계 1위를 선점한 오픈AI의 특성이 다시 한번 드러났다는 것. 최근 앤스로픽이 오픈AI를 바짝 추격하면서 양측의 팽팽한 경쟁은 한층 치열해질 것으로 보인다.

● 트럼프 진영에 ‘좌파’로 낙인찍힌 앤스로픽

크게보기

앤스로픽 로고

이번 AI 윤리 갈등의 도화선은 미 국방부의 AI 모델 사용 계약 개정 시도였다. 월스트리트저널(WSJ)에 따르면 지난해 말 국방부는 앤스로픽을 상대로 ‘모든 합법적 용도’에 AI 모델을 제한 없이 사용하기를 원한다며 계약 개정을 요구했다. 그러나 앤스로픽은 승인을 주저했다. 그러면서 미국 내 대중 감시와 인간 개입 없이 작동하는 자율 살상무기 개발에 자사 AI 모델 사용을 금지하는 ‘레드라인’을 유지하겠다고 밝혔다. 결국 국방부는 이를 거부하고 앤스로픽과의 계약을 해지하기로 했다.

이 같은 결정의 배경에는 피트 헤그세스 미 국방장관의 가치관도 영향을 미친 것으로 분석된다. 미군 내 DEI(다양성, 형평성, 포용성) 정책 폐지와 워크(woke·진보 진영을 비꼬는 말) 사상 퇴출을 강조해 온 그가 앤스로픽식 ‘AI 윤리관’ 역시 미국의 군사 활동을 제약하는 좌파 이념이라고 인식했다는 것. 마두로 대통령 체포 직후인 1월 12일 “전쟁 수행을 허용하지 않는 AI 모델을 결코 채택하지 않을 것”이라고 발언한 것도 앤스로픽을 콕 집어 경고한 거라는 해석이 나온다.

결정타는 올 1월 3일 단행된 마두로 체포 작전이었다. WSJ에 따르면 앤스로픽은 지난달 15일에야 미 언론 보도를 통해 뒤늦게 자사 AI 모델인 클로드가 이 작전에 활용됐다는 사실을 접했다. 앤스로픽 관계자는 파트너사인 팔란티어에 “클로드가 구체적으로 어떻게 활용됐는지 알고 싶다”고 문의했고, 팔란티어가 이 사실을 국방부에 전하자 국방부 당국자들이 불쾌해한 것으로 전해졌다.

지난달 24일 첫 면담에서도 헤그세스 장관과 다리오 아모데이 앤스로픽 최고경영자(CEO)가 충돌한 것으로 전해졌다. 아모데이가 AI로 개발한 자동 살상무기의 위험성을 경고하자, 헤그세스 장관이 중간에 말을 끊고 “우리 전사들에게 그 어떤 CEO도 이래라저래라 말해선 안 된다”고 쏘아붙인 것. 이후 앤스로픽과 이견을 좁히기 어렵다고 판단한 미 국방부는 협상 시한을 지난달 27일로 정하는 한편 오픈AI, xAI 등 경쟁사와 접촉해 미군 기밀 시스템 접근권을 주겠다고 제안했다.

● 올트먼, 국방부에 ‘앤스로픽 대체’ 제안

샘 올트먼 CEO가 직접 전면에 나서며 오픈AI와 국방부의 계약은 급물살을 탔다. 그는 지난달 25일 에밀 마이클 미 국방부 연구공학 담당 차관에게 직접 연락해 계약을 제안한 것으로 전해졌다. 스탠퍼드대 컴퓨터과학과를 중퇴한 뒤 2005년 소셜미디어 룹트(Loopt)를 창업하고, 2014~2019년 스타트업 인큐베이터 Y 콤비네이터를 이끈 올트먼은 차량 공유 서비스 우버 임원 출신인 마이클 차관과 오래전부터 알고 지낸 사이다.

반면 미 국방부와 앤스로픽 간 협상은 평행선을 달렸다. 지난달 26일 아모데이 CEO가 대변인을 통해 “국방부가 제시한 새로운 문구는 (우리가 제시한) 안전장치들을 무력화할 수 있는 법률 용어들로 적혀 있다”고 했다. 마감 시한을 코앞에 두고 국방부가 마지막으로 제시한 합의안도 끝내 거절했다. WSJ에 따르면 앤스로픽는 이 제안이 미국 거주자에 대한 대량의 데이터 수집이나 분석의 여지를 남겨놓았다고 판단했다.

결국 지난달 27일 트럼프 대통령은 모든 연방기관에 앤스로픽 제품 사용을 중단하라고 지시했다. 그는 트루스소셜에 “미국은 절대로 급진 좌파적인 ‘워크’ 기업이 우리 위대한 군이 어떻게 전쟁에서 싸우고 승리해야 하는지를 좌지우지하게 허용하지 않을 것”이라며 “좌파 광신도들이 국방부를 강압적으로 굴복시켜 헌법 대신 자신들의 이용약관을 따르도록 강요했다”고 썼다.

더 나아가 국방부는 5일 앤트로픽을 공급망 위험 기업에 지정하고 공식 통보했다. 공급망 위험 기업으로 지정되면 국방부뿐 아니라 국방부와 계약을 맺은 방산업체 등도 군에 제공하는 서비스에 앤트로픽의 제품이 사용되지 않았다는 사실을 인증해야 한다. 미국이 적대국 기업이 아닌 자국 기업에 이 같은 조치를 한 건 이번이 처음이다. 앤트로픽 측은 “타당하지 않은 조치”라고 반발하며 법적 대응을 예고했다.

● 태생부터 라이벌인 앤스로픽과 오픈AI

뉴시스

앤스로픽과 오픈AI는 그 뿌리부터 얽히고설킨 라이벌이다. 아모데이 CEO는 본래 오픈AI의 기술 부문 부사장이었다. 하지만 2020년 마이크로소프트의 대규모 투자 직후 “오픈AI가 지나치게 상업화되고 있고, 안전 가이드라인을 경시하고 있다”며 비판의 목소리를 냈다. 이어 이듬해 “안전이 담보되지 않는 AI는 인류에게 위협이 될 수 있다”는 신념으로 핵심 인력 15명과 회사를 나와 앤스로픽을 창업하며 오픈AI와 다른 길을 걷기 시작했다.

실제로 양사는 AI 학습 방식부터 다르다. 오픈AI는 기존의 AI 학습 방식인 ‘인간 피드백 기반 강화학습(RLHF)’을 사용한다. 사용자가 답변을 평가하고 그 피드백을 바탕으로 모델을 개선하는 방식으로, 방대한 데이터를 통해 일반 지식과 패턴을 학습한 후 비도덕적인 내용을 거르는 작업을 거친다. 다만 이는 사람의 주관에 따른 편향성을 AI가 학습할 가능성이 있다는 단점이 있다.

이에 비해 앤스로픽은 ‘정직’, ‘차별 금지’, ‘해를 끼치지 않음’ 등 인간이 지켜야 할 근본 규칙을 AI에도 부여하는 ‘헌법적 AI(Constitutional AI)’ 개념을 도입했다. 핵심 슬로건인 ‘사람에게 해롭지 않고 안전한 AI’를 실현하겠다는 목적에서다. 앤스로픽은 AI가 스스로 답변을 검증하고, 위험한 내용을 자체 교정하는 방식을 사용한다. 특히 데이터를 외부로 보내지 않고, 사용자 개인의 ‘나만의 서버’에서 작동하는 로컬 AI 기술이 우수하다는 평가를 받는다. 다수의 기밀작전을 수행하는 미 국방부가 당초 앤스로픽과 계약했던 것도 정보의 외부 유출이 없다는 점에 높은 점수를 줬기 때문이다.

이런 기술적 가치관의 차이는 양사가 내놓은 제품에도 반영돼 있다. 앤스로픽의 생성형 AI 모델 클로드는 ‘덜 틀리는 AI’를 표방한다. 불확실한 정보에 대해선 단정적 답변을 피하고 신중한 태도를 보인다. 반면 오픈AI의 챗GPT는 정보가 불확실해도 가능한 한 적극적으로 답변을 시도하려는 경향이 있다.

현재 앤스로픽의 기업 가치는 약 3800억 달러(약 554조8000억 원)로 오픈AI(약 5000억 달러)에 미치지 못하지만, 가파른 성장세를 보이며 바짝 추격하고 있다. 특히 앤스로픽은 예측과 통제가 가능한 AI란 강점을 내세워 편향이나 오류에 민감한 금융, 법률, 의료업계를 사로잡고 있다. 그 결과 1년 새 매출이 10배 이상 폭증해 지난달 기준 연 140억 달러(약 20조4400억 원)에 이르렀다. 기업들이 사용하는 거대언어모델(LLM) API 시장 점유율은 이미 앤스로픽(40%)이 오픈AI(27%)를 크게 추월했으며, 2026년 중반 이후에는 연간 매출마저 오픈AI를 넘어설 거라는 전망이 나온다.

양사 모두 연내 상장을 목표로 하고 있어 자금 조달 및 신기술 개발 경쟁이 더 치열해질 것으로 전망된다. 앤스로픽은 올 초 코딩 없이 대화만으로 전문 업무를 자동화한 ‘클로드 코워크’를 내놔 소프트웨어 업계에 큰 충격을 일으켰다. 이어 다수의 AI 에이전트(비서)를 팀으로 꾸려 사용하는 최상위 모델 ‘오퍼스 4.6’을 연달아 출시했다. 이에 맞서 오픈AI는 소프트웨어 개발의 전 과정을 스스로 수행하는 코딩 특화 모델 ‘GPT 5.3 코덱스’를 공개하며 핵심 업무 프로세스에 AI를 도입하는 방식으로 수익 구조 고도화에 나섰다.

● 여론전과 정치권 로비전으로 전선 확대

양사의 경쟁은 여론전과 정치권에 대한 로비전으로 확산되고 있다. 기술 경쟁을 넘어 여론 형성과 정치 결정 과정에까지 개입해 경쟁을 벌이고 있는 것. 지난달 19일 인도 뉴델리에서 열린 ‘AI 임팩트 서밋’에 참석한 올트먼 CEO와 아모데이 CEO는 단체 기념 촬영 중 끝까지 눈조차 마주치지 않았다. 두 사람의 어색한 모습이 담긴 영상과 사진이 소셜미디어를 통해 확산됐다. 업계에선 “갈수록 치열해지는 오픈AI와 앤스로픽의 경쟁 구도를 한눈에 보여준다”는 말이 나왔다.

앤스로픽은 지난달 30초당 100억 원이 넘는 막대한 비용을 들여 미국프로미식축구리그(NFL) 슈퍼볼 광고에서 오픈AI를 풍자했다. AI 챗봇처럼 친절하게 조언하다가 갑자기 특정 브랜드의 신발 깔창을 권유하는 트레이너의 모습을 연출해, 챗GPT의 광고 도입을 에둘러 비판한 것. 이에 올트먼은 “기만적 광고”라며 강한 불쾌감을 표시했다.

두 기업은 올 11월 미국 중간선거를 앞두고 AI 규제에 대해 완전히 상반된 입장을 취하며 서로 다른 슈퍼팩(SuperPAC)을 지원하고 있다. 오픈AI는 AI 규제 완화를 주장하는 ‘리딩 더 퓨처’를 결성해 1억2500만 달러(약 1825억 원)를 쏟아부었다.

반면 앤스로픽은 AI 모델의 투명성 강화와 연방정부 차원의 강력한 규제 마련을 지지하는 슈퍼팩 ‘퍼블릭 퍼스트 액션’에 2000만 달러(약 292억 원)를 기부했다.

● AI 군사화 시대의 ‘실리콘밸리 철학자들’

최근 우크라이나 전쟁과 가자 전쟁 등에 AI 기술이 활용되는 등 세계 주요국들은 치열하게 AI 군사화 레이스를 벌이고 있다. 북대서양조약기구(NATO·나토) 역시 오픈AI와 계약을 검토 중인 가운데 앤스로픽과 국방부의 충돌로 중국이 반사이익을 보고 있다는 견해도 있다. 중국이 AI의 군사적 활용에 박차를 가하며 미국을 추월할 시간을 벌어주고 있다는 것.

하지만 앞으로도 AI 영리화와 윤리성을 둘러싼 긴장은 계속될 것으로 전망된다. 앤스로픽뿐 아니라 구글, 오픈AI 등 미국 AI 업계 전반에서 “안전장치를 도입해야 한다”는 의견과 “AI의 사용처를 제한할 수 없다”는 주장이 팽팽히 맞서고 있다.

앤스로픽과 국방부의 충돌이 알려진 직후 실리콘밸리에선 앤스로픽 지지 서명운동이 벌어졌다. 지난달 26일 오픈AI와 구글 현직자 956명이 공동서한을 통해 “국방부의 부당한 요구사항을 거절하는 데 업계가 힘을 합쳐야 한다”고 반기를 들었다. 같은 날 구글 AI 부문인 딥마인드 직원 100여 명이 “기본적인 ‘레드라인’을 넘는 계약을 무슨 수를 써서라도 막아 달라”는 내용의 서한을 경영진에게 발송했다.

분위기가 심상치 않자 올트먼 CEO는 2일 국방부와의 계약에 ‘국내 감시와 자율 살상무기에 AI 활용 금지’ 조항을 포함키로 합의했다고 밝혔다. 다음 날에는 전 사원 회의를 소집해 이번 계약의 성사 배경을 설명했다. 다만 “여러분이 그 사안(미군 작전)에 관여할 권한은 없다”고 선을 그었다. 이에 올트먼이 결국 국방부가 AI 모델을 사실상 제한 없이 사용하도록 허용한 거라는 해석이 나온다.

AI 전문가들이 다른 분야의 엔지니어들에 비해 철학적 사유를 많이 한다는 분석도 있다. 프린스턴대 물리학 박사 출신인 아모데이는 박사 후 연구원으로 스탠퍼드대에서 암 신약 개발을 위해 단백질 구조를 연구했다. 그는 AI의 가능성을 깨닫고 생물학에서 컴퓨터공학으로 전향했다고 뉴욕타임스(NYT)에 밝혔다. 과학적 발견을 비약적으로 앞당겨 인류 공동의 이익을 증진할 수 있다는 이상에 끌렸다고 한다. AI 윤리에 대한 에세이를 공개한 그를 두고 ‘실리콘밸리의 철학자’란 별명도 붙었다.

실리콘밸리에선 2018년에도 거센 AI 무기화 반대 움직임이 있었다. 구글이 국방부와 드론으로 촬영한 데이터를 AI로 분석해 인물, 차량, 건물 등을 식별하는 기술을 개발하는 ‘메이븐 프로젝트’ 계약을 맺자, 수십 명의 선임 엔지니어들이 “전쟁 기술을 만드는 회사의 일원이 될 수 없다”며 줄사표를 던졌다. 당시 사측이 이런 직원들과 계약을 연장하지 않기로 결정하며 일단락됐지만, AI 윤리 가이드라인을 도입하는 계기가 됐다는 평가를 받았다.