지식 없어도 질문만 하면 된다는 환상… AI 의존하면 잘 묻지도 못한다[맹성현의 AI시대 생존 가이드]

AI 시대의 위험한 착각 〈상〉
AI 만능론이 만들어낸 위험한 낙관… AI 신비화와 지식의 외주화 확산돼
인간의 본질적 역량 내려놓는 결과… “내 생각? AI 산물?” 인식론적 위기
장기적 조직 역량 및 사회 토대 흔들… AI 활용 전 사고-검증 능력 강화해야

맹성현 태재대 부총장·KAIST 명예교수

《얼마 전 어느 강연에서 한 학생이 물었다.

“이제 코딩은 인공지능(AI)이 다 해주는데 굳이 배워야 하나요?” 한 기업 임원에게서는 이런 말을 들었다.

“직원들에게 ‘왜(Why)’만 잘 가르치면 되겠지요? 나머지는 AI에게 맡기면 되니까요.”

또 다른 자리에서는 “이제 인간은 좋은 질문만 하면 되는 시대” 라는 단언이 자신감 있게 흘러나왔다.

수백 명의 전문가가 모인 단톡방에서 한참 토론이 이어지다가 누군가 AI에게 얻은 ‘정답’을 캡처해 올리는 순간 토론이 끝나기도 한다.》

AI 성능이 인간의 예측을 뛰어넘는 수준으로 빠르게 향상되면서 이런 반응은 일견 합리적으로 들린다. 그러나 그 안에는 우리가 미처 보지 못한 위험한 함의가 숨어 있다. AI가 발전할수록 인간은 덜 알아도, 즉 인지적으로 게을러도 된다는 가정이다. 지금 우리 사회에는 AI를 둘러싼 몇 가지 착각이 빠르게 퍼지고 있다. 우선 AI를 대하는 태도부터 보자.

먼저 AI의 신비화다. AI와 일상 언어로 대화하듯 코딩하는 ‘바이브 코딩’, 코딩 없이 프로그램을 개발하는 ‘노코딩’, 스스로 상황을 예측하고 자율적으로 업무를 수행하는 ‘AI 에이전트’가 등장하면서 “이제 AI의 원리를 몰라도 된다”는 분위기가 생겼다. 자동차를 운전할 줄 알면 됐지 그 메커니즘을 알 필요가 없다는 식이다. 하지만 자동차는 하드웨어이고, AI는 스스로 변신할 수 있는 소프트웨어다. AI의 속성을 이해하지 못하면 그 능력을 제대로 끌어내기는커녕 변화에 대처하기 어렵다.

다음은 지식의 외주화다. 거의 만능인 AI가 있으니 인간은 그저 좋은 질문만 하면 된다는 태도다. 그러나 깊은 지식 없이 좋은 질문을 할 수 있을까? 전문성이 없는 사람은 겉핥기식 질문을 하는 데 머물고, AI가 내놓는 답을 검증할 능력조차 없다. 질문의 질은 지식과 통찰력의 함수다. 질문자의 역량이 부족하면 AI의 잠재력을 제대로 끌어낼 수 없다.

이 두 착각은 하나의 뿌리에서 나온다. 인간이 갖춰야 할 본질적 역량을 AI에 위탁하려는 태도다. 이런 오해가 확산되면서 사회 곳곳에서 우려스러운 현상이 나타나고 있다.

첫째, 개인의 인식론적 위기다. AI가 만들어내는 콘텐츠가 폭증하면서 진실과 거짓의 경계가 흐려지고 있다. 더 심각한 것은 나와 AI의 경계가 흐려진다는 점이다. 어디까지가 내 사고이고 어디서부터 AI의 사고인지 분간이 되지 않으면서 자신의 판단마저 확신하지 못하게 된다. “내가 안다고 생각하는 것이 진짜 내가 아는 것인가”라는 근원적 불안이 우리 안에 조용히 스며들고 있다.

둘째, 조직의 공동화다. 신입 직원이 AI에 의존하다 보면 기초 역량을 쌓아야 할 시기에 그러한 역량을 쌓지 못하기 쉽다. 일부 기업은 AI를 활용하는 ‘슈퍼 일꾼’을 길러 아예 신입 채용을 하지 않으려고 한다. 지금 당장은 효율적으로 보이지만 10년, 20년 뒤 조직은 지식과 경험을 갖춘 인적자원의 공백으로 어려움을 겪을 수 있다. 직원들이 AI에 의탁하면 할수록 단기적 생산성은 올라가지만 조직의 내재 역량은 위축될 수 있다.

셋째, 사회를 유지하는 토대의 약화다. 시민의 비판적 사고능력이 저하되면 그것은 개인 문제로 끝나지 않는다. 스스로 판단하는 시민이 줄어들 때 민주주의의 토대 자체가 흔들린다. AI가 매개하는 환경에서 사람들은 더 빨리 결론에 도달하지만, 그 결론이 누구의 것인지는 점점 불분명해진다.

이 위험들을 관통하는 한 가지 진실이 있다. 인류가 AI의 능력에 의존하는 만큼 스스로 퇴화하기 쉽다는 것이다. 이 흐름을 막아낼 수 있는 가장 강력한 지렛대는 결국 교육이다. 그런데 지금의 AI 교육은 너무 단편적이다. 일부 대학은 ‘AI 기술자’를 양성해 왔고, 요즘은 대다수 교육기관이 나서 그저 ‘AI 문해력’을 고취시키는 데 힘을 쏟고 있다.

AI의 본질을 이해하도록 AI 교육·훈련 전반에 걸쳐 패러다임 전환이 필요하다. 그간 문제 해결을 위해 AI를 활용하는 데 몰두했다면 그 솔루션을 검증하는 능력을 함께 길러야 한다. 특히 작업 효율 향상이 주목적인 경우, 먼저 스스로 해결해 본 뒤 AI를 활용하는 ‘선(先)사고, 후(後)확장’ 원칙을 지켜야 한다. 인간의 다각적 역량을 증대하는 교육이 없으면 우리는 AI에 스스로 지배를 받는 길을 택하는 셈이다.

여기서 한 걸음 더 들어가면 이 모든 착각과 위험은 기업의 실용적인 관점에서도 문제가 되고 있다. AI와 전문 영역 사이의 진정한 융합이 이뤄지지 않아 AI 도입에 한계를 느끼고 있는 것이다. 요즘 ‘AI 전환(AX)’이라는 말을 수없이 접한다. 정책 문서, 기업 조직도, 보고서 제목에 이 단어가 넘쳐 난다. 그러나 그것이 무엇을 의미하고 어떻게 수행돼야 할지에 대한 사유는 놀라울 만큼 빈약하다.

운전만 잘하면 된다는 생각은 이제 그만하자. 자신의 영역과 AI 간 융합은 양쪽을 충분히 알아야 가능하다. AI를 도구로만 보는 피상적인 시각으로는 조직의 변화를 이끌기에 충분치 않다. AI가 강력해질수록 그것과 공존해야 하는 인간은 스스로 더 깊어져야 한다. 이 단순한 원칙을 우리는 잊고 있다.



맹성현 태재대 부총장·KAIST 명예교수