[신문과 놀자!/디지털 세상과 정보]뭐든 알려주는 AI… ‘사람만 할 수 있는 일’ 집중해야

글쓰기 등 숙제에 AI 활용 땐
거짓 정보도 알려줘 주의해야
AI의 답변 ‘팩트 체크’는 필수
윤리적 판단은 스스로 결정하길

학교와 기업 등 사회 전반에서 인공지능(AI)을 활용하는 사례가 늘면서 AI가 오답을 전달하거나 사실이 아닌 정보를 그럴듯하게 만들어 내는 상황이 잦아지고 있다. 이에 대한 책임은 AI를 활용한 사람이 지는 만큼 AI 시대에는 비판적으로 생각하는 힘을 더 키워야 한다. 게티이미지뱅크

“선생님, 인공지능(AI)이 글도 써주고 그림도 그려주고 숙제도 다 도와줘요. 그럼 저는 이제 뭘 공부해야 되나요?”

요즘 교실에서 자주 듣는 질문입니다. 솔직히 무척 좋은 질문이에요. 어른들도 같은 고민을 하고 있거든요. AI가 글을 써주고 영상을 만들어주고, AI 비서가 일정도 잡아주는 시대에 사람은 도대체 무엇을 잘해야 할까요. 이번 칼럼에서는 이 질문에 대한 답을 함께 찾아보려고 합니다. 답을 찾기 위해 먼저 살펴봐야 할 것이 있습니다. 바로 AI를 잘못 사용한 사례들입니다.

● 어른도 AI 앞에서 흔들리고 있다

AI를 잘못 쓴 사례는 의외로 어른들 사이에서 먼저 나타났습니다. 미국에서는 30년 경력의 변호사가 AI가 알려준 판례 여섯 건을 법원에 그대로 제출했다가 큰 망신을 당했습니다. 알고 보니 여섯 건 모두 AI가 지어낸 ‘가짜 판례’였거든요. 변호사는 AI에 “정말 진짜야?”라고 거듭 물었고 AI는 자신 있게 “네, 진짜입니다”라고 답했다고 합니다. 결국 그는 약 650만 원의 벌금을 물었고, 30년 쌓은 신뢰도 한순간에 무너졌습니다. 이렇게 AI가 사실이 아닌 정보를 그럴듯하게 만들어 내는 현상을 ‘환각(할루시네이션)’이라고 부릅니다.

의료 현장에서도 비슷한 풍경이 펼쳐집니다. 진료실에서 환자가 “AI는 이 약을 추천하던데요”라며 의사에게 자기가 원하는 처방을 요구하는 일이 늘었다고 합니다. AI는 환자를 직접 진찰할 수도 없고, 검사 결과를 볼 수도 없는데 말이지요. 결국 오픈AI도 지난해 11월부터는 약물 이름이나 복용량, 법률 자문 같은 위험한 답변을 차단하는 것으로 정책을 바꿨습니다.

어른들만의 이야기가 아닙니다. 어쩌면 더 충격적인 일이 학교 안에서 일어나고 있습니다. 2024년 우리나라에서는 동급생이나 선생님의 사진을 AI로 합성해 가짜 음란물을 만든 ‘딥페이크 성범죄’가 큰 사회 문제가 됐습니다. 교육부 발표에 따르면 2024년 1∼8월 학생 186명, 교직원 10명이 피해를 입었습니다.

더 충격적인 것은 가해자의 대부분이 10대였다는 점입니다. 경찰이 특정한 피의자 중 79%가 10대였습니다. 친구들끼리 ‘사진 합성 놀이’처럼 시작했다가 큰 범죄로 번진 것입니다. 부산에서는 학교 전산을 관리하던 한 직원이 4년간 19개 학교를 돌며 교사 194명의 사진을 빼내 AI로 합성한 사건도 있었습니다.

학습에서도 문제가 생기고 있습니다. 국내 한 국제학교에서는 학생들이 AI로 영문 에세이를 통째로 써서 제출했다가 적발돼 전원 0점 처리를 받았습니다. 한국청소년정책연구원 조사에 따르면 청소년 5778명 중 55%가 AI를 써본 경험이 있지만, AI가 준 정보를 비판적으로 따져보는 능력은 부족한 것으로 나타났습니다. AI가 만들어 준 가짜 정보를 그대로 발표 자료에 넣었다가 친구들과 선생님 앞에서 ‘세종대왕이 맥북을 던졌습니다’ 같은 황당한 발표를 하게 될 수 있다는 뜻이지요.

직업도 다르고 나이도 다른 사람들이 AI 때문에 곤란을 겪었습니다. 그런데 잘 보면 공통점이 하나 있습니다. AI를 ‘써서’가 아니라, AI에 ‘생각을 맡겨서’ 문제가 생겼다는 점입니다.

변호사는 ‘이 판례가 진짜인지’ 직접 확인해야 할 자기 일을 AI에 맡겼습니다. 학생은 ‘내 생각을 어떻게 글로 쓸지’ 자기 생각을 만드는 일을 AI에 떠넘겼습니다. 딥페이크를 만든 친구들은 ‘이 행동이 다른 사람에게 어떤 상처를 줄지’ 인간으로서의 판단을 멈춰 버렸습니다.

● AI 시대, 사람은 더 사람다워야 한다

이제 처음의 질문으로 돌아갑시다. “AI가 다 해주는데, 저는 뭘 공부해야 해요?”에 대한 답은 분명합니다. AI가 절대 대신 해줄 수 없는 ‘사람만이 할 수 있는 일’을 더 깊이 배워야 합니다. 그것은 크게 네 가지입니다.

첫째, 비판적으로 생각하는 힘입니다. AI가 준 답이 진짜인지 가짜인지, 옳은지 그른지 스스로 따져볼 줄 알아야 합니다. AI 환각에 속지 않으려면 의심하고 확인하는 습관이 필요합니다. 변호사가 AI의 답을 한 번만 더 검색해 봤다면 그런 일은 없었을 겁니다.

둘째, 옳고 그름을 가리는 마음입니다. ‘이 일을 해도 되는가’라는 윤리적 판단은 AI가 절대 대신 해줄 수 없습니다. 친구 얼굴로 합성 사진을 만드는 일, AI가 해준 숙제를 통째로 베끼는 일이 잘못이라는 것을 아는 마음은 AI가 가르쳐 주지 않습니다. 그것은 사람의 양심이 결정합니다.

셋째, 공감하고 배려하는 능력입니다. 다른 사람의 마음을 헤아리고, 함께 슬퍼하고, 함께 기뻐하는 능력은 AI가 흉내 낼 수는 있어도 진짜로 가질 수는 없습니다. 인간만이 할 수 있는 가장 따뜻한 능력입니다.

넷째, 책임지는 자세입니다. AI가 잘못된 답을 내놓아도, 그 답을 받아들이고 사용한 책임은 결국 사람에게 돌아옵니다. 미국 변호사도 “AI가 그렇게 알려줬다”는 변명으로 벌금을 피할 수 없었습니다. AI 시대에도 책임은 사라지지 않습니다.

지금까지 이 칼럼에서는 ‘바이브 코딩’, ‘피지컬 AI’, ‘소버린 AI’, ‘AI 에이전트’ 같은 새로운 기술들을 소개해 왔습니다. AI는 정말 빠른 속도로 똑똑해지고 있고, 우리 삶 곳곳에 들어오고 있습니다.

하지만 꼭 기억해야 할 것이 있습니다. 아무리 AI가 발전해도, 주인은 여전히 사람입니다. AI는 우리가 시키는 대로 일하는 도구일 뿐 무엇을 시킬지, 그것이 옳은 일인지, 그 결과를 어떻게 쓸지 결정하는 것은 사람입니다. 그래서 AI 시대에 가장 중요한 능력은 ‘AI를 잘 다루는 기술’이 아니라 ‘사람으로서 바르게 판단하는 힘’입니다.

여러분이 어른이 됐을 때 세상은 지금보다 훨씬 더 AI로 가득할 것입니다. 그때 사회가 필요로 하는 사람은 ‘AI를 가장 빠르게 쓰는 사람’이 아니라 ‘AI를 가장 바르게 쓰는 사람’입니다. 의심할 줄 알고, 윤리를 알고, 공감할 줄 알고, 책임질 줄 아는 사람. 그런 사람이 진짜 미래의 주인공입니다.