30분-4달러면 논문 한편 뚝딱 완성… ‘AI 슬롭’ 학계까지 침투, 우려 확산

챗GPT 등장후 논문 수 1.5배로 증가
年30만편 투고… 검증 시스템 마비돼
코넬대 ‘아카이브’ 운영 포기 선언도
학계 “AI 사용 공개해야 논문 게재”

실험 한번 없이도 커피 한잔 값으로 그럴듯한 논문 한 편을 뚝딱 작성할 수 있는 ‘논문 공장’이 현실화되자 학계에 비상이 걸렸다. 논문 작성만 전문으로 하는 인공지능(AI) 에이전트까지 생겨나 아이디어 생성부터, 데이터 분석, 작문까지 30분, 4달러(약 6000원)면 논문 한 편이 완성된다. AI로 만들어진 저품질 논문, ‘AI 슬롭(Slop·찌꺼기)’이 신뢰가 핵심인 학계에마저 유입되고 있다는 우려가 커지고 있다.

13일 과학계에 따르면 AI의 등장 이후 논문 제출은 폭증하고 있다. 미국 코넬대가 운영하는 논문 사전 게재 사이트인 ‘아카이브(arXiv)’에 올라온 논문 수는 지난해 기준 2022년 챗GPT 등장 이전의 1.5배 이상으로 증가했다. 올해 3월에는 월간 3만 편 이상의 논문이 게재되며 역대 최고치를 경신했다. 올해 연간 투고량은 30만 편을 넘어설 것으로 예상된다.

여기에는 AI 영향이 작지 않다는 분석이다. 논문 작성 AI 에이전트 ‘데나리오’가 등장했을 뿐만 아니라, 올해 1월 오픈AI가 공개한 연구용 AI ‘프리즘’ 역시 다른 AI와 연결 시 연구 설계부터 최종 논문 작성까지 한 번에 해결해 준다.

문제는 이렇게 논문 발행이 급증하면서 주요 학회조차 AI로 작성한 어설픈 논문을 거르지 못하는 등 검증 시스템이 마비되기 시작했다는 점이다. 세계적 권위의 AI 학회인 ‘신경정보처리시스템학회(뉴립스)’는 지난해 채택한 논문 중 일부에서 AI의 ‘환각 인용’이 확인돼 곤욕을 치렀다. ‘환각 인용’은 AI가 존재하지 않는 논문의 제목이나 저자명을 지어내 인용하는 것으로, 스타트업 GPT제로는 지난해 뉴립스가 채택한 논문 중 최소 51개에서 환각 인용을 확인했다고 밝혔다.

쏟아지는 논문에 한계 상황에 다다른 코넬대는 아카이브 운영 포기를 선언했다. 아카이브는 연구자들이 동료들에게 조언을 얻기 위해 사전에 논문을 공개하던 대표적 사이트다. 지금의 챗GPT를 있게 한 구글 리서치팀의 ‘AI 트랜스포머 모델’이 처음으로 공개된 곳이기도 하다. 하지만 27명의 인력이 한 달에 3만 건 이상의 논문들을 놓고 주제가 적절한지, 논문의 형식을 갖췄는지 등을 판단하기에는 역부족이었다. 이에 올 7월 아카이브는 코넬대의 품을 떠나 독립법인으로 전환된다.

학계도 대응에 나서는 양상이다. 국제학습표현학회(ICLR)는 최근 가이드라인을 개정해 대형언어모델(LLM) 사용 사실을 공개하지 않을 경우 논문 게재를 거부하기로 했다. 국제 인공지능 공동 학술대회(IJCAI) 역시 첫 논문 이후 추가 투고 시 편당 100달러의 비용을 부과하여 무분별한 투고를 억제하기로 했다.

임용 서울대 법학전문대학원 교수(서울대 AI 신뢰성연구센터 교수)는 “대응책을 마련하고 있지만, AI 도입에 대한 학계 전반의 합의가 없는 무방비 상태”라며 “이미 연구에 AI를 도입하는 것이 흐름이 된 만큼 규제와 진흥의 균형을 잘 맞춰 나가야 한다”고 했다.

한채연 기자 chaezip@donga.com
최지원 기자 jwchoi@donga.com