AI ‘딸깍 출판’ 시대…출판계 “신뢰의 위기” 대응책 찾는다

게티이미지뱅크

‘아무도 읽지 않습니다.’

지난달 출간된 김상원 작가의 공상과학(SF) 장편소설은 제목부터 의미심장하다. 밀려드는 투고 원고를 감당하기 위해 인공지능(AI)을 도입한 한 출판사. 하지만 AI를 사용한 이른바 ‘딸깍 출판’으로 원고가 급증하고, 이를 처리하려 또다시 AI를 투입하는 악순환이 벌어진다. 인간은 AI 요약본에 의존하다가 점차 글을 직접 읽지 않게 되고, 인류 문명마저 퇴보할 위기에 처한다.

가상의 이야기지만, 이제 출판에서 AI의 영향은 더 이상 웃어넘기기 어려운 수준이다. AI 생성물과 인간 저술이 기준 없이 뒤섞이며 책에 대한 근본적인 신뢰가 흔들리고 있다는 우려도 나온다.

국내 출판계가 이 같은 문제의식 아래 대응책 마련에 나섰다. 한국출판인회의는 29일 서울 마포중앙도서관에서 ‘AI 시대의 출판 생태계, 기회와 위기 사이에서 길을 찾다’를 주제로 긴급 포럼을 연다. 출판사와 작가, 서점, 도서관 관계자들이 대거 참여해 AI 대응책을 논의하는 건 처음이다.

최근 출판계에선 출판의 핵심이 ‘콘텐츠 생산’에서 ‘신뢰 관리’로 이동하고 있다는 인식이 확산되고 있다. AI로 인한 양적 팽창 속에서 독자의 신뢰를 확보하는 게 중요한 과제로 떠올랐기 때문이다. 출판계에서 선제적으로 가이드라인을 만들어 AI가 어디까지 개입했고, 어디서부터 인간이 책임졌는지를 명확히 밝히자는 제안도 나온다.

윤성훈 클레이하우스 대표(한국출판인회의 AI미래전략위원장)는 “투명성 의무를 지키는 건 결국 출판 시장 전체의 신뢰를 지키는 일”이라며 “모든 책이 AI로만 쓰이는 상황이 되면 독자는 결국 책을 외면하게 될 것”이라고 말했다. 이어 “독자가 책을 고르는 단계에서부터 AI 저작인지, 인간 저작인지, 혹은 일부 보조를 받은 것인지 알 수 있어야 저자의 창작 동기도 유지되고, 독자 역시 차이를 인식할 수 있다”고 강조했다.

출판 유통 단계에서도 비슷한 고민이 이어지고 있다. 한 대형서점 관계자는 “아마존을 비롯한 국내외 온라인 서점들은 출판사와 자비출판 저자에게 AI 사용 여부를 밝히도록 유도하고 있다”며 “특히 주문형 출판(POD)의 경우 AI 활용 여부를 표시하는 항목이 별도로 마련돼 있다”고 설명했다. 이 관계자는 “지금은 신뢰에만 바탕을 둔 자율 규제에 가까운 만큼, 법과 제도 차원의 논의가 필요하다”고 덧붙였다.

이날 포럼에선 ‘인간 저술 출판물 보증제’도 주요 의제로 논의될 전망이다. 이달 초 출판사 커뮤니케이션북스는 국내 최초로 출판물에 인간이 썼다는 걸 보증하는 마크를 달기로 했다. AI가 아닌 인간이 주도적으로 집필한 저작물임을 명확히 하고, AI 활용 여부를 투명하게 공개해 독자의 알 권리를 보장하겠다는 취지다.

이 보증 마크를 받으려면 저자는 윤리 서약서에 서명해야 한다. “AI가 생성한 문장을 그대로 사용하는 등의 표절 행위를 하지 않는다” “AI 활용 사실을 은폐하거나 독자를 오인하게 하지 않는다”는 내용이 핵심이다. 이후 편집부가 일정 기준 충족 여부를 검토해 마크를 부여하기로 했다.

이 같은 시도는 인간과 AI 저술을 구분하려는 움직임이란 점에서 주목받고 있지만, 실효성을 둘러싼 논란도 적지 않다. 한 문학계 관계자는 “AI로 대부분을 작성했다는 걸 숨기고 보증 마크를 받으면 어떻게 할 것인가”라며 “AI 판독기도 정확성이 떨어지는 것으로 알려져 있는데, 기술적으로 검증 가능한지가 문제”라고 지적했다.