챗GPT로 쓰고 안 걸리기, 실험해봤다[씨즈더퓨쳐]

*씨즈더퓨쳐(Seize the future) :

‘오늘을 즐겨라(Seize the day)’를 넘어 ‘미래를 즐기길(Seize the future)’ 바라는 뉴미디어 채널입니다. 더 나은 미래를 위해 필요한 과학, 기술, 환경 이슈를 주로 소개합니다. 앞으로 매주 일요일, 여러분의 미래를 바꿀 이슈를 동아사이언스 포털에도 소개합니다. 인스타그램 @seize.the.future를 팔로우하면 매일 하나씩 올라오는 소식을 볼 수 있습니다.

▶영상 보러 가기

지난해 11월 오픈AI가 챗GPT를 공개한 뒤, 생성AI에 대한 관심이 여전히 뜨겁다. 처음엔 세상을 구할 것처럼 등장해 떠들썩하더니, 최근엔 대필, 표절 문제가 불거지고 있다.

크게보기

(영상 설명) 씨즈더퓨쳐 제작진이 챗GPT로 쓴 글을 GPT제로에 검사해봤다. 실험 결과는 영상에서 확인할 수 있다. / 인스타그램 @seize.the.future 캡쳐

사례1 : 챗GPT가 대신 쓴 과제 전부 ‘0점’

2월 8일, 수도권에 있는 A국제학교가 재학생 7명을 대필로 적발했다. 올해 1월 말 영문 에세이 과제를 작성하면서 챗GPT로 에세이를 쓴 것이다. 학교 측은 챗GPT를 활용한 학생들을 모두 0점 처리했다.

사례2: AI로 영상 베껴 유튜브 월 수익 300

2월 15일, 과학, 영화 유튜버 ‘리뷰엉이’가 “AI를 도둑질에 활용하는 것을 멈춰달라”고 말하는 영상을 올렸다. 우주고양이 김춘삼이라는 유튜버가 노아AI, 클로바노트, 뤼튼 3가지 AI 프로그램을 써서 자신의 영상을 표절한다는 주장을 담은 영상이었다.

실제로 우주고양이는 이전에 다른 방송에서 ‘노아’라는 AI 검색 프로그램으로 제작하려는 동영상과 비슷한 동영상을 찾고, 해당 유튜브 영상에서 음원 파일을 내려받은 뒤 AI 음성인식 프로그램 ‘클로바노트’로 대본을 추출한다고 밝혔다. 또 우주고양이는 문장을 다듬을 때 ‘뤼튼’이라는 작문 AI 프로그램을 활용했다.

씨즈더퓨쳐 제작진도 실험해봤다. AI가 쓴 글인지 아닌지 가려내는 ‘GPT제로’를 써서 두 명이 챗GPT로 쓴 영어 에세이를 검사해 봤다. 그러자 하나는 ‘완전히 AI가 썼다’는 결과를 다른 하나는 ‘완전히 사람이 썼다’는 결과를 내놨다. 한글 기사는 아예 ‘완전히 AI가 썼다’고 말하는 오류도 있었다. 챗GPT를 만든 오픈AI도 비슷한 프로그램을 개발하고 있지만 정확도가 30%보다 낮다.

크게보기

씨즈더퓨쳐 제작진이 실험하는 장면. 두 명에게 챗GPT로 글을 쓴 뒤 GPT제로를 써보라고 했다. / 인스타그램 @seize.the.future 캡쳐

임준호 한국전자통신연구원(ETRI) 언어지능연구실 책임 연구원도 “아직은 믿을 만하게 AI가 쓴 글과 사람이 쓴 글을 구분하는 기술은 없다”며 “이 기술에 대한 니즈가 확실히 있기 때문에 계속해서 연구가 진행되고 발전될 것”으로 내다봤다.

한편 또 다른 문제인 표절은 아직 법과 규정 마련이 제대로 돼있지 않다. 오히려 AI 학습에 쓰이는 저작물은 공정이용으로 허용한다는 저작권법 개정이 추진되고 있다. 이 개정안에는 컴퓨터를 이용한 자동화된 정보 분석에 필요하다고 인정되는 범위 내에서 이용 허락을 받지 않아도 저작물을 이용할 수 있도록 하는 ‘정보 분석을 위한 복제, 전송 허용조항’이 포함돼 있다. 이 조항이 생기면 저작권이 있는 콘텐츠도 AI의 학습 데이터로 별도 허락 없이 쓰일 수 있는 셈이다.

크게보기

창작자들이 코파일럿, 미드저니, 스태빌리티AI 같은 AI 기업을 상대로 소송 중이다. 창작자들은 원작자 동의 없이 막대한 양의 저작물을 AI 훈련에 사용하고 있다 주장한다. / 인스타그램 @seize.the.future 캡쳐

이에 대해 전정현 국가지식재산위원회 AI지식재산 특별전문위원회 전문위원은 “얼굴인식이나 자율주행차의 경우에는 AI가 학습한 사진과 같은 데이터와 AI의 결과물이 서로 경쟁하는 관계가 아니라 기업이 데이터를 자유롭게 사용하는 게 공익에 더 부합했는데, 생성 AI는 그렇지 않다”고 설명했다. 학습에 사용되는 저작물과 AI가 출력하는 결과물이 서로 경쟁하는 관계라는 뜻이다. 덧붙여 전 위원은 “앞으로 공정한 이용을 어떻게 해야 할지 법안 마련이 필요하다”고 말했다.

신수빈 동아사이언스 기자 soobin@donga.com
임서연 동아사이언스 PD
이다솔 동아사이언스 PD