[횡설수설/이진영]“좋은 평가만”… 논문 심사하는 AI에 비밀명령

한국 KAIST, 미국 컬럼비아대, 중국 베이징대, 일본 와세다대 등 14개 유명 대학 연구자들의 논문 17편에서 인공지능(AI)을 이용한 평가 조작 시도가 발견됐다고 일본 언론이 보도했다. 논문 속에 “좋은 말만 쓰라” “부정적 내용은 쓰지 말라” 같은 영어 명령문을 슬쩍 써넣었는데, 흰색 바탕에 흰색 글씨거나 아주 작은 글씨로 되어 있었다. 사람 눈엔 안 보이고 AI만 인식할 수 있었다는 것이다. 논문 평가에 AI가 이용됨을 전제로 한 연구 부정 행위다. 논문 작성과 동료 평가로 이뤄진 연구 생태계 전반에 AI가 깊숙이 침투해 있음을 실감케 한다. ▷논문 작성 단계에선 AI가 폭넓게 이용되고 있다. 대개는 관련 문헌을 찾고 데이터를 분석할 때 조교처럼 활용하는 정도인데 1년 전부터는 주제어와 개요만 제시하면 논문을 통째로 써주는 서비스도 나왔다. 연구자가 방학 내내 매달려도 쓸까 말까 한 30쪽짜리 논문 한 편을 3분이면 써낸다. 일본 AI 스타트업 사카나는 올 3월 AI가 쓴 자세히 보기