AI냐, 사람이냐… 누구 머리에서 나온 책인가

AI ‘딸깍 출판’ 시대… ‘인간보증’ 믿을 수 있을까
AI생성물-인간 저술 기준없이 섞여… 한 출판사 ‘인간 저술 보증제’ 도입
“활용 표절-은폐 않겠다” 서명받아
오늘 출판인회의 ‘AI 대응책’ 논의… “인간 보증, 검증 가능한지가 문제
투명성 확보로 시장 신뢰 지켜야”

‘아무도 읽지 않습니다.’

지난달 출간된 김상원 작가의 공상과학(SF) 장편소설은 제목부터 의미심장하다. 밀려드는 투고 원고를 감당하기 위해 인공지능(AI)을 도입한 한 출판사. 하지만 AI를 사용한 이른바 ‘딸깍 출판’으로 원고가 급증하고, 이를 처리하려 또다시 AI를 투입한다. 급기야 파장은 점점 커지고, 인류 문명마저 퇴보할 위기에 처한다.

가상의 이야기지만, 이제 출판에서 AI의 영향은 더 이상 웃고 넘기기 어려운 수준이다. AI 생성물과 인간 저술이 기준 없이 뒤섞이며 책에 대한 근본적인 신뢰가 흔들리고 있다는 우려도 나온다.

국내 출판계도 이 같은 문제의식 아래 대응책을 논의한다. 한국출판인회의는 29일 서울 마포중앙도서관에서 ‘AI 시대의 출판 생태계, 기회와 위기 사이에서 길을 찾다’를 주제로 긴급 포럼을 갖는다. 출판사와 작가, 서점, 도서관 관계자들이 대거 참여해 AI 대응책을 논의하는 건 처음이다.

이날 포럼에선 ‘인간 저술 출판물 보증제’도 진지하게 논의될 것으로 전망된다. 이달 초 출판사 커뮤니케이션북스는 국내 최초로 출판물에 인간이 썼다는 걸 보증하는 마크를 달기로 했다. AI가 아닌 인간이 주도적으로 집필한 저작물임을 명확히 하고, AI 활용 여부를 투명하게 공개해 독자의 알 권리를 보장하겠다는 취지다.

이 보증 마크를 받으려면 저자는 윤리 서약서에 서명도 해야 한다. “AI가 생성한 문장을 그대로 사용하는 등의 표절 행위를 하지 않는다” “AI 활용 사실을 은폐하거나 독자를 오인하게 하지 않는다”는 내용이 핵심이다. 이후 편집부가 일정 기준 충족 여부를 검토해 마크를 부여하기로 했다.

인간 저작물에 대한 가치를 제고하기 위한 시도지만, 출판계 전체가 도입하려면 실효성을 어떻게 해결할 것인지가 관건이다. 한 문학계 관계자는 “AI로 대부분을 작성했다는 걸 숨기고 보증 마크를 받으면 어떻게 할 것인가”라며 “AI 판독기도 정확성이 떨어지는 것으로 알려져 있는데, 기술적으로 검증 가능한지가 문제”라고 지적했다.

이렇다 보니 출판계에선 앞으로 출판의 핵심은 ‘콘텐츠 생산’이 아니라 ‘신뢰 관리’가 더 중요해졌다는 인식도 퍼지고 있다. 대표적인 과제가 ‘투명성 확보’다. AI가 어디까지 개입했고, 어디서부터 인간이 책임졌는지를 명확히 밝혀야 한다는 의견이다.

윤성훈 클레이하우스 대표(한국출판인회의 AI미래전략위원장)는 “투명성 의무를 지키는 건 결국 출판 시장 전체의 신뢰를 지키는 일”이라며 “모든 책이 AI로만 쓰이는 상황이 되면 독자는 결국 책을 외면하게 될 것”이라고 말했다. 이어 “독자가 책을 고르는 단계에서부터 AI 저작인지, 인간 저작인지, 혹은 일부 보조를 받은 것인지 알 수 있어야 저자의 창작 동기도 유지되고, 독자 역시 차이를 인식할 수 있다”고 강조했다.

출판 유통 단계에서도 비슷한 고민이 이어지고 있다. 한 대형서점 관계자는 “아마존을 비롯한 국내외 온라인 서점들은 출판사와 자비출판 저자에게 AI 사용 여부를 밝히도록 유도하고 있다”며 “특히 주문형 출판(POD)의 경우 AI 활용 여부를 표시하는 항목이 별도로 마련돼 있다”고 설명했다. 이 관계자는 “지금은 신뢰에만 바탕을 둔 자율 규제에 가까운 만큼, 법과 제도 차원의 논의가 꼭 필요하다”고 덧붙였다.



김소민 기자 somin@donga.com