교황 “AI가 인류 지배 못하게 무장해제해야”

즉위후 첫 회칙 ‘위대한 인간성’ 발표
“AI 등 디지털권력, 소수 집중 안돼
모두 접근할 수 있도록 더 개방해야
도입에 신중 요구는 인류 위한 배려”

인공지능(AI) 관련 회칙 ‘위대한 인간성’을 발표하는 교황 레오 14세. 바티칸=AP 뉴시스

“단순한 규제만으로는 충분하지 않습니다. 인공지능(AI)을 무장해제(disarm) 함으로써 더 개방적이고 모두가 접근할 수 있도록 만들어야 합니다.… 무장해제는 기술이 인류를 지배하지 못하도록 막는 것입니다.”

교황 레오 14세가 25일(현지 시간) 즉위 후 처음으로 발표한 회칙(回勅)에서 AI 시대 인간 존엄성을 지켜야 한다며 이렇게 강조했다.

바티칸 공식 홈페이지에 따르면 레오 14세는 이날 바티칸 교황청 시노드 강당에서 회칙 ‘마니피카 후마니타스’(Magnifica Humanitas·위대한 인간성)를 발표하고 “더 강력한 알고리즘과 방대한 데이터셋을 확보해 지정학적 또는 상업적 우위를 차지하려는 욕망이 부추기는 경쟁을 막아야 한다”고 촉구했다.

회칙은 교황이 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서다. 교황 관련 문헌인 교서, 권고, 담화, 연설, 강론 등을 통틀어 가장 구속력이 강하다.

교황은 이번 회칙에서 “AI를 도덕적으로 중립적이라고 생각할 수 없다”며 “AI에 관한 윤리적 틀을 공개적으로 논의하고, 사회 정의의 공통된 기준에 따라 평가할 것을 주장할 용기가 필요하다”고 밝혔다. 이어 “AI는 이미 우리가 깊이 잠겨 살아가는 하나의 환경이자, 우리가 반드시 상대해야 하는 힘이 됐다”며 “견고한 법적 틀과 독립적 감시, 정보에 밝은 사용자, 그리고 책임을 회피하지 않는 정치 체제가 필요하다”고 덧붙였다.

이번 교서는 총 82페이지 분량으로 약 4만 개 단어, 245개 항으로 구성됐다. 회칙은 교황 명의로 공표되지만 이번처럼 교황이 직접 발표하는 것은 이례적이다. 이날 발표 행사에는 교황청 부서 장관인 추기경들과 신학자들이 배석했다.

교황은 AI가 공익에 기여하려면 관련 시스템을 기획, 개발하는 사람부터 구체적인 결정을 내리는 사람에 이르기까지 모든 단계에서 책임이 명확하게 정의되어야 한다고 강조했다. 회칙은 “AI 도입에 있어 신중함, 엄격한 평가, 그리고 때로는 더딘 속도를 요구하는 것은 진보에 반대하는 것이 아니라, 인류를 위한 책임감 있는 배려의 표현”이라고 명시했다.

또 디지털 권력의 집중을 경계하면서 AI의 발달에서 파생된 알고리즘과 디지털플랫폼, 데이터 등은 ‘보편적 재화’에 포함된다고 했다. 교황은 “디지털 환경에서 플랫폼·데이터·인프라는 국가가 아닌 경제·기술자들이 통제한다. 이런 권력이 소수에 집중될 때 불투명해지고 의존·배제·불평등으로 왜곡될 위험이 커진다”고 지적했다. 디지털 경제의 가혹한 노동에 대해선 “새로운 형태의 노예제”라고 비판했다.

이날 행사에는 AI의 자율 살상무기 탑재와 대규모 감시 동원에 반대해 미국 트럼프 행정부와 갈등을 빚고 있는 크리스토퍼 올라 앤스로픽 공동 창업자도 참석했다.