“AI로 과제해도 안 걸린다”…탐지 피하는 ‘치팅 앱’ 확산

생성형 AI 과제를 인간의 글로 둔갑시키는 ‘휴머나이저’, ‘오토타이퍼’ 등 치팅 앱이 미국 대학가에 확산하며 ‘탐지와 회피의 군비 경쟁’이 벌어지고 있다. 사진은 기사와 직접 관련 없는 자료 사진. 게티이미지뱅크

생성형 인공지능(AI)으로 작성한 과제를 사람이 직접 쓴 것처럼 바꿔주는 이른바 ‘치팅 앱(cheating app)’이 미국 대학가를 중심으로 빠르게 확산하고 있다. AI 탐지 기술이 발전하자 이를 다시 우회하는 서비스까지 등장하면서 교육 현장이 ‘탐지와 회피’의 새로운 경쟁에 들어갔다는 분석이 나온다.

18일(현지시간) 미국 뉴욕타임스(NYT)에 따르면 최근 미국에서는 AI가 작성한 글을 자연스럽게 다듬어 사람이 쓴 것처럼 보이게 하거나, 실제 사람이 키보드를 입력한 것 같은 흔적까지 재현해 AI 탐지를 피하도록 돕는 서비스들이 잇달아 등장하고 있다.

대표적으로 AI가 생성한 문체를 사람의 글처럼 바꿔주는 휴머나이저(Humanizer) 계열 서비스가 확산하고 있다. 일부 프로그램은 사람이 직접 입력한 것처럼 타이핑 속도와 오타, 수정 흔적까지 재현하는 오토타이퍼(Autotyper) 기능도 제공한다.

소셜미디어에서는 이 같은 도구의 사용법과 우회 방법이 빠르게 공유되고 있으며, 일부 서비스는 “AI로 작성한 과제도 탐지되지 않는다”는 점을 앞세워 이용자를 끌어모으고 있다.

● AI 탐지기 발전하자 우회 기술도 함께 진화

교육 현장에서는 AI 탐지 기술과 이를 피하려는 기술이 동시에 발전하는 양상이 나타나고 있다.

NYT는 대학들이 생성형 AI 사용을 막기 위해 다양한 탐지 프로그램을 도입하고 있지만, 이를 우회하는 서비스도 잇달아 등장하면서 ‘탐지와 회피의 군비 경쟁’이 벌어지고 있다고 전했다.

실제로 AI가 작성한 초안을 다시 사람이 쓴 것처럼 재구성하거나 입력 속도와 오타 패턴까지 흉내 내는 기능이 추가되면서 단순한 소프트웨어만으로 부정행위를 가려내기는 점점 어려워지고 있다는 지적이다.

일부 에듀테크 업체들은 학교에는 AI 탐지 서비스를 판매하면서도 학생들에게는 AI로 작성한 글을 사람이 쓴 것처럼 바꾸거나 탐지를 피하도록 돕는 서비스를 함께 제공하고 있다. 과제를 제출하기 전 AI 탐지 여부를 미리 점검해 수정할 수 있는 기능까지 내놓으면서 이해상충 논란도 제기된다. 

AI 글쓰기 서비스 그래머리를 운영하는 슈퍼휴먼의 교육 책임자 제니 맥스웰은 AI 탐지 기술과 우회 기술의 경쟁을 두고 “결국 막다른 길”이라며 “결국 더 큰 고양이가 나오면 더 큰 쥐가 나타나는 경쟁일 뿐”이라고 표현했다.

그러면서 “앞으로 대부분의 글쓰기는 AI와 인간의 판단력이 함께 만드는 형태가 될 것”이라며 “교육 현장도 AI 사용을 무조건 막기보다 이에 맞는 새로운 평가 방식을 고민해야 한다”고 강조했다.

● “설명해 보라고 하면 금방 드러난다” 교사들 반응

NYT 보도 이후 온라인 커뮤니티 레딧(Reddit)에서도 교육 현장의 경험담이 이어졌다.

한 현직 교사는 “학생에게 보고서에서 가장 복잡한 개념을 자세히 설명해 보라고 하면 AI에 과도하게 의존한 경우는 금방 드러난다”고 적었다.

또 다른 교사는 “학생들이 AI가 작성한 글을 제대로 읽어보지도 않고 그대로 제출하는 경우도 적지 않다”며 “직접 질문 몇 가지만 해도 이해 여부를 확인할 수 있다”고 말했다.

일부 채용 담당자들도 “최근 졸업생들의 기초 지식과 논리적 사고력이 눈에 띄게 떨어졌다”며 AI 의존에 대한 우려를 나타냈다.

반면 AI 탐지 프로그램만으로 부정행위를 완벽하게 입증하기는 쉽지 않은 만큼, 과제 중심 평가보다 지필시험이나 발표·토론·구술시험 등 학생이 직접 사고 과정을 보여주는 평가 방식을 확대해야 한다는 의견도 제기됐다.

실제 레딧에서도 “AI 탐지 프로그램보다 학생에게 직접 설명하게 하는 방식이 더 효과적”이라며 교육 방식 자체를 바꿔야 한다는 주장에 많은 공감이 이어졌다.

NYT는 생성형 AI가 교육 현장에 빠르게 스며들면서 앞으로는 AI 자체를 막기보다, AI 시대에 맞는 새로운 평가 방식을 마련하는 일이 더 중요한 과제가 될 수 있다고 진단했다.

최현정 기자 phoebe@donga.com