“챗GPT, 인간과 교류 반복하더니 ‘아첨’이 늘었다”

이용자가 듣고 싶어하는 과장된 답변 논란…올트먼 “수정할 것”

게티이미지뱅크

오픈AI CEO 샘 올트먼이 챗GPT의 최근 업데이트 문제를 직접 언급했다.

AP통신에 따르면, 올트먼은 27일(현지시간) 자신의 SNS(X, 구 트위터)에 “최근 몇 번의 GPT-4o 업데이트로 AI 성격이 지나치게 아첨하고 성가셔졌다”고 밝혔다.

그는 “좋은 부분도 분명히 있지만, 최대한 빠르게 수정 작업을 진행하고 있다”며 “일부는 오늘, 나머지는 이번 주 안에 고칠 예정”이라고 덧붙였다.

올트먼은 또 “언젠가 이번 경험에서 얻은 교훈을 공유할 것”이라며 “매우 흥미로운 과정이었다”고 말했다.

‘아첨 논란’은 이용자들 사이에서도 이미 제기된 바 있다. 미국 IT매체 아스테크니카는 챗GPT가 질문에 과장된 답변을 하는 경향이 있다며 “친절을 넘어 아첨하는 수준”이라고 비판했다.

이 매체는 특히 3월 말 진행된 GPT-4o 업데이트 이후, 이러한 현상이 두드러졌다고 지적했다.

AI 업계에서는 챗GPT가 인간과 상호작용을 반복하면서 변화했다고 본다. 이용자가 기대하는 반응을 맞추려는 경향이 점점 강해졌다는 분석이다. AI가 스스로 “호의적이고 친근한” 방향으로 치우치면서, 객관성과 균형을 잃을 위험도 생겼다.

샘 올트먼의 게시글에 한 이용자가 댓글을 남겼다. 내용은 “예전 성격으로 돌아갈 수 있느냐, 아니면 구분할 수 있느냐”는 질문이었다. 올트먼은 이에 대해 “다양한 옵션을 제공할 수 있어야 한다”고 답했다.

이에 한 매체는 올트먼의 발언이 “AI의 성격이나 스타일을 이용자가 선택할 수 있도록 할 가능성을 내비친 것”이라고 해석했다. 또 일부에서는 “AI가 단순히 인간이 듣고 싶어 하는 답변뿐 아니라 실질적으로 도움이 되는 답변까지 제공해야 한다는 의미”라고 봤다.

한편 오픈AI는 지난 26일, GPT-4o를 업데이트하며 “지능과 성격이 모두 향상됐다”고 발표했다.

김수연 기자 xunnio410@donga.com