“걸작 만든 AI” vs “표절 기계”… 기술에 맡길 수 없는 창작의 진실성[강용수의 철학이 필요할 때]

2022년 미국 ‘콜로라도 주립 박람회 미술대회’ 디지털 아트 부문 우승작 ‘스페이스 오페라 극장’. AI 프로그램 ‘미드저니’가 생성한 이미지로 밝혀져 논란이 됐다. 사진 출처 X

《AI 창작 윤리의 경계와 책임


인공지능(AI) 시대를 맞아 챗GPT나 제미나이(구글의 생성형 AI)를 활용하는 일은 자연스러운 풍경이 됐다. AI를 잘 사용하면 노벨 문학상도 쉽게 받을 수 있을 것이라는 환상이 생겨나기도 한다. 그러나 AI는 스스로 아이디어를 만들어 내기보다 기존 텍스트를 학습해 결과물을 생성하는 방식이어서 표절의 위험에 쉽게 노출된다. 창작의 영역에서는 작가의 독창성을 보호하기 위해 표절을 도둑질로 간주하고 엄격히 금지하고 있다.》

강용수 고려대 철학연구소 연구원

미국 하버드대 교수들 가운데에도 표절 로 징계를 받은 사례가 있다. 하버드대 로스쿨 교수 표절 사건으로 가장 널리 알려진 일은 2024년 하버드대 최초의 흑인 총장이었던 클로딘 게이가 논문 표절 의혹으로 사퇴한 일이다. 앞서 2005년에는 헌법학자인 로런스 트라이브 교수가 저서 표절 의혹으로 견책 처분을 받았다. 20년 전 출간된 저서에서 다른 작가의 작품을 베꼈다는 의혹이 뒤늦게 제기됐기 때문이다.

이처럼 학계에서 심각한 문제로 다뤄지는 표절의 낙인은 하버드대 유명 교수라 해도 예외 없이 불명예스러운 징계나 불이익으로 이어진다. 미국 학계에서는 출처를 명확히 밝히지 않거나, 의역한 표현에 따옴표를 붙이지 않는 행위를 할 경우 교수직 박탈이나 명예 실추 등의 불이익을 받게 된다. 표절은 남의 아이디어나 문장을 자신의 것으로 둔갑시키는 비윤리적인 절도 행위다. 표절의 심각성은 학문적 진실성을 훼손하는 데 있다.

뉴질랜드 문학상 ‘오컴 북 어워즈’에 소설 부문에 출품됐으나 인공지능(AI) 관련 규정으로 심사에서 탈락한 작가 스테퍼니 존슨의 소설 ‘오블리게이트 카니보어’(왼쪽 사진)와 엘리자베스 스미더의 소설 ‘에인절 트레인’의 표지 사진. 두 책의 표지는 AI로 생성된 이미지다. 출판사 퀜틴 윌슨 홈페이지 캡처

표절 문제는 학계뿐 아니라 여러 창작 분야에도 적용된다. 최근 책 표지 디자인에 AI가 만든 이미지가 사용됐다는 이유로 작품 자체가 문학상 심사에서 탈락한 사례가 있었다. 영국 가디언에 따르면 뉴질랜드 최고 문학상인 ‘오컴 북 어워즈’에 출품된 소설 ‘에인절 트레인’은 기차 위를 천사가 나는 그림을, ‘오블리게이트 카니보어’는 고양이 얼굴에 사람 치아를 합성한 이미지를 표지에 사용했는데 두 이미지 모두 AI로 제작했다. 심사위원회는 “표지와 삽화 등 시각적 요소를 포함해 도서 전반에 AI 생성 결과물이 포함되면 수상 자격이 없다”는 새 규정을 설명하며 두 작품 모두 심사에서 탈락시켰다.

작가들은 표지 때문에 자신의 글에도 AI가 사용된 것으로 오해받을 수 있다며 안타까움을 표했다. AI가 주도하는 시대를 맞아 출판업계는 책 내용을 창작하는 과정뿐 아니라 각종 디자인 작업에서도 AI 사용이 엄격히 제한되고 있다. 그러나 이미지 편집에 가장 널리 쓰이는 포토샵에도 이미 AI 기능이 포함돼 있다. 이 때문에 “어디까지가 AI 사용인지에 대한 명확한 기준이 필요하다”는 목소리가 나온다.

최근 대학에서는 강의 내용을 자동으로 요약해 주는 AI를 활용하는 일이 늘고 있다. 대형 강의의 경우 학생들이 제출한 과제를 표절 검색 AI로 평가하기도 하는데, 이에 대한 학생들의 불만이 적지 않다. AI를 사용하지 않고 자신의 힘으로 글을 썼음에도 표절 검사에서 높은 유사성을 보이는 경우가 있기 때문이다. 표절 검색기에 대한 불신도 커지고 있다.

창작자에게 표절은 도용과 다름없어 저작권을 둘러싼 법적 소송으로 이어지는 경우도 많다. 표절을 피하는 방법은 간단하다. 출처와 인용을 명확히 밝혀 다른 사람의 독창성을 인정하면 된다. AI를 활용한 경우에도 사용한 AI의 종류와 기여도, 활용을 밝히는 등 윤리적 기준을 분명히 하는 것도 하나의 대안이 될 수 있다.

강의를 요약해 주듯 AI가 노벨 문학상 수상작까지 써준다면 얼마나 좋을까. 누구나 노벨 문학상을 한 번쯤 노려봐도 되지 않을까. 그러나 생성형 AI에 대한 과신은 위험하다. AI가 생성하는 정보는 과연 사실일까. AI의 발달로 창작과 표절의 경계는 점점 더 모호해지고 있다. 미국의 경우 단어 몇 개의 배열이나 한두 줄의 유사성만으로도 표절로 판단되는 현실을 감안하면, 기존 정보를 2차적으로 가공하는 AI가 표절을 피해 가기란 쉽지 않다. 이에 따라 최근에는 AI 기반 챗봇이 생성한 내용에 대한 법적 책임을 누구에게 물어야 하는지를 둘러싼 논의도 이어지고 있다. 그 책임을 과연 AI에 물을 수 있을까.

AI가 만들어 낸 허위 사실에 대한 법적 책임은 누가 져야 할까. AI는 아직 인간과 같은 자의식이나 도덕적 판단 능력을 갖추지 못했다. AI 사용 자체가 부정행위는 아니지만, 그렇다고 AI를 활용한 부정행위를 다시 AI로 가려내는 일 역시 쉽지 않다. 아무리 정교한 AI 표절 검사기를 사용하더라도 모든 도둑질을 찾아내는 데에는 한계가 있어 보인다.

‘바늘 도둑이 소도둑 된다’는 속담처럼 AI 윤리 교육은 어릴 때부터 체계적으로 이뤄질 필요가 있다. 노벨상과 같은 세계적 성취를 꿈꾼다면, 자신의 것과 남의 것을 엄격히 구분하는 정직함에서부터 창의성이 비롯된다는 사실을 먼저 깨달아야 한다. 세상에 공짜는 없다. 쉽게 얻은 것 가운데 진정한 가치를 지닌 것은 드물다. 작은 것 하나라도 남의 것을 가져와서는 안 된다.

표절과 관련한 책임은 AI가 아니라 그것에 명령하고 질문하는 사용자에게 있다. AI를 규제하는 데 그칠 것이 아니라, AI를 올바르게 활용하며 학습할 수 있는 윤리의식을 기르는 교육이 필요하다. 노벨상에 선정될 자격이 있는 소설이라면 AI나 윤리위원회가 진위를 가리기 전에 이미 작가 스스로 검증해야 한다. 창작의 진실성은 결국 작가 자신의 양심에 의해 판단될 문제다. 연구와 창작에서 가장 중요한 진실성을 가장 잘 아는 존재는 창작자 자신이기 때문이다.

강용수 고려대 철학연구소 연구원