“배운 걸 잃는 게 아니라, 아예 못 배울 수도”…하버드가 주목한 AI 위험

AI가 이미 배운 능력을 약화시키는 수준을 넘어, 기초 역량을 배울 기회 자체를 줄일 수 있다는 지적이 나왔다. 게티이미지뱅크

학교 현장에서 인공지능(AI) 활용이 빠르게 늘어나는 가운데, 학생들이 글쓰기와 사고의 기본기를 아예 익히지 못할 수 있다는 경고가 나왔다. AI가 이미 배운 능력을 약화시키는 수준을 넘어, 기초 역량을 배울 기회 자체를 줄일 수 있다는 지적이다.

11일 하버드대 소식지 ‘하버드 가제트’에 따르면 스테퍼니 스미스 부다이 델라웨어대 교육공학 부교수와 마리 히스 로욜라대 메릴랜드 부교수는 최근 하버드 교육 출판사가 주최한 대담에서 학교 현장의 AI 활용 문제를 짚었다.

부다이 교수는 학생들이 AI에 지나치게 의존할 경우 단순한 ‘능력 저하’보다 더 큰 문제가 생길 수 있다고 우려했다. 그는 학생들이 글의 주제문을 직접 쓰는 법을 배우지 않고, 처음부터 AI에 주제문을 요청하는 상황을 예로 들었다.

부다이 교수는 이런 현상을 ‘디스킬링’보다 심각한 ‘네버스킬링’으로 설명했다. 디스킬링은 이미 갖고 있던 능력을 잃는 현상이다. 반면 네버스킬링은 애초에 해당 능력을 배워본 적이 없는 상태를 뜻한다.

● AI는 쓰되, “왜 쓰는가”를 먼저 물어야

두 저자는 그렇다고 학교가 AI 교육을 피해야 한다고 보지는 않았다. 이들은 교사가 학생들에게 AI 사용법을 가르칠 필요는 있지만, AI를 편리한 도구로만 다뤄서는 안 된다고 강조했다. AI 교육이 기술의 윤리적 문제와 사회적 영향, 편향 가능성까지 함께 다뤄야 한다는 것이다.

부다이 교수는 “우리가 반기술을 말하는 것은 아니다”라며 “더 큰 질문을 던져야 한다는 뜻”이라고 밝혔다. 학생들이 AI와 상호작용하는 방식과 AI가 작동하는 원리를 이해해야 한다는 설명이다.

게티이미지뱅크

AI가 인간관계와 시민 생활에 미칠 영향도 우려로 제기됐다. 히스 교수는 생성형 AI가 사람들의 활동을 더 매끄럽고 편하게 만들지만, 그만큼 인간끼리 대화하고 부딪힐 필요를 줄인다고 봤다.

히스 교수는 사람들이 불편함을 견디는 경험을 해야 한다고 말했다. 서로 다른 의견을 듣고, 반박을 받고, 갈등 속에서 대화하는 과정이 필요하다는 뜻이다. 그는 사람들이 AI에 의존할수록 이런 경험을 연습할 기회가 줄어들 수 있다고 지적했다.

● “AI는 중립적이지 않다”…AI에 담긴 편향 문제

AI 도구에 담긴 편향 문제도 주요 쟁점으로 다뤄졌다. 두 저자는 책을 준비하는 과정에서 AI에 흑인 고등학생과 백인 고등학생에게 추천할 책 목록을 각각 요청했다. 그 결과 흑인 학생에게 추천된 책은 범죄와 빈곤을 다룬 내용에 치우친 것으로 나타났다.

히스 교수는 다른 연구에서도 비슷한 편향을 확인했다고 설명했다. AI가 학생을 백인이거나 사회경제적으로 높은 계층으로 인식하면 부드럽고 대화체에 가까운 피드백을 제공했다. 반대로 학생을 흑인·갈색인종이거나 사회경제적으로 취약한 배경으로 인식하면 더 직접적이고 권위적인 어조를 사용했다는 것이다.

히스 교수는 “AI에는 사회의 모든 편향이 담겨 있다”고 말했다. 그는 AI가 일부 학생에게 “내가 맞고, 너는 이렇게 해야 한다”는 식의 메시지를 줄 수 있다고 지적했다.

두 저자는 교사가 교실에서 AI를 활용하기 전 먼저 “왜 이 기술을 써야 하는가”를 물어야 한다고 조언했다. 

김수연 기자 xunnio410@donga.com