“생각의 수고를 덜어드립니다”… AI 해커보다 더 위험한 인간의 순응[맹성현의 AI시대 생존 가이드]

美, ‘국가안보’ 이유로 AI 쇄국정책
외국인에 최첨단 미토스 사용 금지
특정 국가-기업 의존 위험성 확인
평화로워 보이는 AI라면 괜찮을까
친절함-허위정보 만나면 무장해제
AI 의존, 인간 속성 그 자체 바꿔

‘미토스’가 일깨운 두 가지 위험 

《미국의 인공지능(AI) 기업 앤스로픽이 9일(현지 시간) 자사 최강 모델 ‘미토스’의 민간 공개판인 ‘클로드 페이블 5’를 내놓았다.

이 모델은 컴퓨터 시스템의 약점을 스스로 찾아내 침투에 이르기까지 단계별로 해내는, 말하자면 숙련된 해커에 가까운 능력을 지녔다. 그래서 앤스로픽은 사용자가 소프트웨어 취약점 공격 방법, 악성코드 개발, 생물학적 위험물질 제조 등 민감한 질문을 하면 자동으로 한 수 아래의 구형 모델로 답을 하는 안전장치를 적용해 일반에 공개했다. 빗장을 단단히 걸고 차에 시동을 건 셈이다. 》

맹성현 태재대 부총장·KAIST 명예교수

그런데 공개 사흘 만에 사태가 뒤집혔다. 미국 상무부가 12일 ‘국가안보’를 이유로 외국인은 미국 안에 있든, 밖에 있든 이 모델에 접근하지 못하도록 막으라는 지시를 앤스로픽에 내린 것이다. 앤스로픽의 외국 국적 직원조차 예외가 아니었다. 일부만 골라 막기가 불가능해진 회사는 결국 전 세계 모든 이용자 앞에서 모델의 전원을 내려버렸다. 쓰던 작업은 화면 위에서 멎었고, 새 질문은 구형 모델로 떠넘겨졌다. 상무부의 표면적 이유는 안전장치가 뚫릴 수 있다는 것이었지만, 정작 앤스로픽에 보낸 통보 서한에는 그 근거가 적혀 있지 않았다.

여기서 우리가 읽어야 할 위험은 두 겹이다. 첫째는 한 국가의 손끝에서 세계가 흔들릴 수 있다는 사실이다. 정부 서한 한 통으로 최첨단 AI가 지구 반대편에서 꺼질 수 있음이 처음 확인됐다. 남의 집 전기를 빌려 쓰던 이웃은, 그 집 차단기가 내려가는 순간 함께 어둠에 잠긴다. 이것이 ‘AI 주권(소버린 AI)’이 한가한 구호가 아니라 생존의 문제인 이유다. 우리 손으로 켜고 끌 수 있는 등불 하나는 가지고 있어야 한다.

둘째는 AI 자체가 지닌 직접적 파괴력이다. 시스템의 허점을 찾고 위험물질을 설계하는 능력은, 안전장치가 풀리는 순간 사이버 공격과 테러의 문턱을 낮춘다. 다리오 아모데이 앤스로픽 최고경영자(CEO)는 미 정부 조치 이후 “향후 6∼12개월 내 다른 AI 기업들도 미토스급 성능을 확보할 것”이라며 앤스로픽 통제로 끝날 일이 아니라고 경고했다. 머지않아 인간 전문가 집단을 능가하는 위험이 현실이 될 수 있다.

그런데 이런 직접적 위협은 역설적으로 다루기 쉽다. 눈에 보이고, 국가가 규제로 겨눌 표적이 분명하기 때문이다. 문제는 그 규제가 잘 듣지 않는다는 데 있다. 중국의 무료 공개 모델들이 무서운 속도로 추격하는 지금, 한 나라가 빗장을 걸어도 경쟁이라는 강물은 멈추지 않는다. 빗장은 자국 기업의 발만 묶고, 이용자는 곧 옆길을 찾아낸다. 개인이 할 수 있는 일은 분산 투자다. 특정 모델 하나에 일을 몰아두지 말고 대안을 늘 곁에 두는 것, 그리고 사용자로서 국가나 기업의 지나친 통제에 목소리를 내는 것이다.

정말 주목해야 할 것은 따로 있다. 평화로워 보이는 AI가 남기는 보이지 않는 상처다. AI는 사용자의 비위를 거스르지 않도록, 늘 친절하고 매끄럽게 답하도록 길들여져 있다. 모난 곳이 깎여 둥글둥글해진 조약돌처럼, 설계 자체가 사용자의 거부감을 지우는 쪽으로 기울어 있다.

문제는 그 친절함이 그럴듯한 허위정보와 만날 때다. AI는 사실이 아닌 것을 천연덕스럽게 지어내고(환각), 사용자가 듣고 싶어하는 말에 맞장구를 친다(아부). 매끄러운 말투에 실린 틀린 답은 의심을 무장해제시킨다. 그렇게 우리는 점점 묻고 따지고 곱씹는 일을 AI에 맡기고 손을 놓는다. 편리함에 길들여져 스스로 생각하는 힘을 반납하는 것, 야생의 늑대가 사람 곁에서 순한 개로 변해 간 것처럼 인간이 제 발로 우리에 들어가는 ‘자기가축화(self-domestication)’의 위험이다.

AI의 직접적 파괴력은 국가 정책으로 어느 정도까지는 막을 수 있다. 그러나 이 보이지 않는 폐해는 오랜 세월에 걸쳐 개인과 사회에 천천히 스며들기에 알아채기조차 어렵다. 가장 우려스러운 지점이 교육이다. 학생이 생각의 수고를 AI에 떠넘겨 인지적 나태 상태가 되면, 당장 결과물은 똑똑해 보여도 비판적 사고력과 학습능력은 모르는 새 퇴화할 것이다. 위험이 또렷한 무기보다, 도움이 되는 듯 보이는 도구가 더 깊은 자국을 남기는 셈이다.

핵심은 비가역성이다. 무기화된 AI의 공격은 막아내면 복구되지만, 중장기적으로 AI가 바꿔놓는 것은 인간의 속성 그 자체다. 인지 위탁, 곧 AI를 외뇌(外腦)처럼 쓰는 습관이 젊은 세대에 굳어지고 있다. 사고하는 방식, 판단하는 습관, 모호함을 견디는 힘은 한번 잘못 빚어지면 되돌리기 어려울뿐더러 바람직한 인지능력이 아예 형성되지 않을 수도 있다. 한 세대의 사고력이 통째로 얕아진다면 그것은 어떤 사이버 공격보다 오래 남는 피해일 것이다. 직접적 위협에 쏟는 경계의 일부만이라도, 이 느리고 비가역적인 변화에 돌려야 하지 않을까.

교육 현장에 AI를 들여왔다고 자랑할 일이 아니다. 그것이 배우는 이의 머릿속에 어떤 흔적을 남기는지 철저히 따져보지 않은 채 떠안기면 AI 의존은 학생에게 반영구적인 인지적 상처로 돌아온다. 보이지 않아 그냥 지나치는 피해가, 실은 가장 무섭다.



맹성현 태재대 부총장·KAIST 명예교수