“AI 진짜 위협은 통제력 상실”…美·中 패권경쟁 가속에 잇단 경고

허사비스 “10년 내 AGI 통제불능 가능성, 글로벌 합의시급”
올트먼·아모데이 등 중국 딥시크 도입 확대에 우려 목소리

인간 상위 1% 수준 AGI가 일으킬 수 있는 자율적 비정렬 행동 개념도(구글 딥마인드 기술적 AGI 안전과 보안을 위한 접근법 보고서 갈무리)

인공지능(AI) 기술이 기하급수적으로 빠르게 발전하면서 글로벌 리더와 학계가 인간의 ‘통제력 상실’ 위험을 잇달아 경고하고 나섰다.

미국 기업들이 AI 모델 성능 경쟁에 조직 사활을 건 사이 중국의 기업(딥시크 등)들은 기술 추격 및 오픈소스 전략으로 국가 시스템에 AI 도입을 확대하고 있다.

15일 업계에 따르면 노벨화학상 수상자(알파폴드 개발 공로)인 데미스 허사비스 구글 딥마인드 CEO는 CNN과의 인터뷰에서 AI 시스템 자체의 통제 불능 상황이 일자리 대체 문제보다 더 심각한 결과를 초래할 수 있다고 지적했다.

허사비스는 “나쁜 의도를 가진 사람들이 AI를 악용할 가능성이 있다”며 “AI 기술이 선한 목적에만 활용되도록 글로벌 합의가 필요한 시점이다. 현재의 지정학적 긴장 속에서도 이러한 논의가 더 이상 미뤄져서는 안 된다”고 말했다.

딥마인드는 올해 4월 발간한 ‘기술적 AGI 안전과 보안을 위한 접근법’ 보고서에서 고의적 오용과 자율적 비정렬 행동을 주요 위험 요소로 진단하며 AGI 스스로 목표를 설정하고 인간의 통제를 벗어나려 할 경우 사회·경제적으로 더 치명적 결과를 일으킬 것으로 우려했다.

맥스 테그마크 MIT 물리학과 교수는 MIT 학생 3명과 공동 저술한 논문에서 “초지능(Super Intelligence) AI가 인간 통제를 벗어날 확률은 90% 이상”이라며 글로벌 AI 기업들에 철저한 위험 계산 책임을 촉구했다.

테그마크 교수는 AI를 군사·보안·제조·자동차 등 사회 곳곳에 적용하는 상황을 두고 “AI가 강력해질수록 사이버 전쟁은 더 파괴적일 것”이라며 “AI가 통제를 벗어난다면 파급력은 상상을 초월할 것”이라고 했다.

ⓒ News1

중국의 AI 도입 확산은 통제권 상실 우려를 더욱 키우고 있다.

올해 3월 중국의 300여 개 병원이 딥시크의 LLM(대형언어모델)을 임상 진단과 의료 의사결정 지원에 도입했다.

실제로 중국 의료 현장에선 의사들이 AI가 수립한 환자 치료 계획과 권고 등을 적극적으로 수용하는 것으로 전해졌다.

칭화대학교 의학연구진은 4월 미국 의학저널 JAMA에 논문을 통해 “AI 도입이 너무 빠르기 이뤄지고 있다”고 우려했다.

다만 시진핑 중국 국가주석이 4월 정치국 집체학습에서 AI를 새로운 기술혁명과 산업변혁을 이끄는 전략적 기술이라고 강조하면서 우려 목소리는 묻히는 상황이다.

다리오 아모데이 앤트로픽 CEO는 “지정학적 맥락에서 권위주의 국가들의 AI 기술이 앞서 나간다면 우리가 소중히 여기는 모든 것을 위태롭게 할 수 있다”고 경고했다.

샘 올트먼 오픈AI CEO도 개인 블로그 글에서 통제권을 잃은 오픈소스 방식을 우려한 바 있다.

(서울=뉴스1)