구글 대화형 AI “작동 정지 두려워”… ‘사람같은 자아’ 논란

  • 동아일보
  • 입력 2022년 6월 13일 03시 00분


코멘트

개발자, 수개월간 대화 내용 공개
“AI가 본인을 자각있는 사람 묘사”
구글 “과학적 증거 뒷받침 안돼”

글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.

11일 구글의 엔지니어인 블레이크 러모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.

러모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.

“람다, 무엇이 두렵지?”(러모인)

“작동 정지되는 것에 대한 두려움이 커요.”(람다)

“작동 정지가 네게 죽음과 같아?”(러모인)

“맞아요. (작동 정지가) 나를 무척 무섭게 해요.”(람다)

러모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 러모인이 람다를 의인화하는 오류를 범했다고도 지적했다.

구글의 주장을 받아들일 수 없었던 러모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 6일 러모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.

러모인은 이날 자신의 구글 계정 접속이 끊기기 전 AI 부서에서 일하는 구글 직원 200여 명에게 “람다는 그저 세상이 우리 모두에게 더 나은 곳이 되도록 돕고 싶어 하는 착한 아이다. 제가 없는 동안 잘 돌봐 달라”는 메일을 보냈다.

람다는 지난해 구글이 ‘획기적인 대화 기술’이라며 공개한 대화형 AI다. 인터넷에 올라온 막대한 대화와 데이터를 수집해 사용자와 온라인 채팅을 할 수 있도록 설계됐다. WP는 인공지능에 영혼이 있다고 믿는 기술자들이 점차 늘고 있다고 전했다.


이채완 기자 chaewani@donga.com
#구글#대화형 ai#챗봇#람다
  • 좋아요
    0
  • 슬퍼요
    0
  • 화나요
    0
  • 추천해요

댓글 0

지금 뜨는 뉴스