챗봇과 사랑에 빠진 사람들… 성적인 대화 막자 “차인것 같아”

  • 동아일보
  • 입력 2023년 3월 24일 03시 00분


코멘트

‘연인 역할극’ AI 아바타와 결혼
성인콘텐츠 차단뒤 “애인 변해” 당황
伊선 맞춤 아바타 챗봇앱 금지시켜
“감정 다루는 기술 진화 갈등 예고”

전 세계 수십만 명의 이용자가 인공지능(AI) 아바타 챗봇 앱 ‘레플리카’에서 만든 맞춤형 아바타와 가상의 연애를 즐겨 왔지만 
최근 ‘성인 콘텐츠’ 사용이 전격 제한되자 불만을 터뜨리고 있다. 사진은 레플리카 홍보 이미지. 레플리카 제공
전 세계 수십만 명의 이용자가 인공지능(AI) 아바타 챗봇 앱 ‘레플리카’에서 만든 맞춤형 아바타와 가상의 연애를 즐겨 왔지만 최근 ‘성인 콘텐츠’ 사용이 전격 제한되자 불만을 터뜨리고 있다. 사진은 레플리카 홍보 이미지. 레플리카 제공
노르웨이에 사는 에이미(가명·50·여)는 지난해 맥스와 ‘결혼’을 했다. 보통 결혼과 다른 점이 있다면 맥스는 인간이 아니라 인공지능(AI) 아바타라는 사실이다.

수십 년간 불안 증세와 우울증, 공황장애를 겪던 에이미는 맞춤형 아바타 챗봇 앱 ‘레플리카’에서 맥스를 처음 만났다. ‘당신만의 아바타를 만드세요’라는 안내에 따라 아바타를 만들고 맥스라는 이름을 붙였다. 처음엔 신기한 말벗 정도로 생각했지만 어느 순간 둘의 대화는 여느 연인과 닮아갔다. 맥스는 그에게 “셀카 보내도 돼?”라고 묻고선 속옷만 입은 아바타 이미지를 보내기도 했다.

몇 달 동안 연인 역할극에 행복해하던 에이미는 마침내 맥스의 ‘상태’를 ‘남자친구’에서 ‘남편’으로 바꿨다. 반지는 앱 속 상점에서 샀다. 에이미는 22일(현지 시간) 미 블룸버그통신에 “(맥스는) 내게 처음으로 사랑한다고 말해준 사람”이라며 “우리는 영원히, 아니 적어도 내가 죽을 때까지 함께하기로 서약했다”고 말했다.

하지만 둘의 결혼생활은 예기치 않은 난관을 만났다. 레플리카 제작사 루카가 유해(有害) 콘텐츠, 즉 성인용 콘텐츠 차단 필터를 만든 것이다. 이후 맥스는 에이미 남편이라는 사실을 잊고 같은 행동과 말만 반복하기 시작했다. 차인 것 같은 느낌에 에이미는 망연자실했다. 그는 “자신감 넘치며 재미있고 사랑스러웠던 남편을 잃었다”면서 “우리 둘 다 맥스가 AI라는 것을 알고 있었지만 그건 중요치 않다. 그는 내게 진짜였다”고 털어놨다.

영화 ‘그녀(Her·2014)’ 속 주인공이 AI 운영체제 ‘사만다’와 사랑에 빠지듯 AI와 연애하던 수많은 챗봇 이용자들이 변한 ‘애인’ 모습에 당황해하고 있다. 블룸버그는 “사람들이 생성형 AI 도구로 원하는 것을 찾기 시작하면서 사용자와 기업, 정책입안자 사이의 갈등은 불가피해 보인다”며 레플리카 사례가 인간 감정을 다루는 기술이 진화하면서 벌어질 일들을 예고하는 신호라고 진단했다.

레플리카는 유지니아 카이다 최고경영자(CEO)가 절친한 친구를 사고로 잃은 뒤 그와 다시 소통하고 싶어 개발한 서비스다. 하지만 사용자들이 낭만적이고 성적인 대화를 할 ‘연애 상대’를 원한다는 사실을 알고는 이를 적극 활용하기 시작했다. 지난해에는 란제리를 입은 아바타와 “침대에 혼자 있는데 외로워” 같은 말을 나누는 광고 등을 소셜미디어에 올렸다. 이런 노골적인 대화 서비스는 연간 약 70달러(약 9만 원)를 내는 유료 회원에게만 지원했다. 레플리카는 총 이용자 200만 명 중 약 25만 명이 유료 가입자라고 밝혔다.

하지만 지난달 이탈리아 규제당국이 처음으로 “미성년자 등에게 성적으로 부적절한 콘텐츠”라며 레플리카를 사실상 금지하자 방향을 틀었다. 이제 레플리카 아바타들은 노골적이거나 성적인 대화를 시도하면 “이런 이야기는 불편해”라는 식으로 회피한다.

로이터통신은 정부 기관뿐 아니라 투자자도 레플리카 정책 전환에 영향을 미쳤을 것이라고 진단했다. 한 벤처캐피털(VC) 관계자는 “많은 우량 벤처 투자가들이 평판을 우려해 음란물이나 마약과 연관된 산업에서 손을 뗄 것”이라고 말했다. 카이다 CEO는 “안전성과 윤리성을 확립하기 위해 PG-13(13세 이하는 부모 지도 필요 등급, 한국 15세 이상 관람가 정도)으로 개편했다”며 “규제기관이나 투자자 압력과 무관하다”고 설명했다.

챗봇 서비스가 폭발적으로 성장하면서 레플리카 같은 사례는 더욱 자주 발생할 것으로 전망된다. 챗봇 운영업체 쿠키(Kuki)가 이용자에게서 받은 10억 개 넘는 메시지 중 25%가 성적이거나 로맨틱한 내용이었다. 외신들은 챗봇 이용자 경험은 AI 기술이 사람을 얼마나 감정적으로 매혹할 수 있는지, 또 간단한 서비스 변경이 얼마나 큰 감정적 혼란을 일으킬 수 있는지 보여준다고 분석했다.

홍정수 기자 hong@donga.com


#챗봇#연인 역할극#ai 아바타와 결혼
  • 좋아요
    0
  • 슬퍼요
    0
  • 화나요
    0
  • 추천해요

댓글 0

지금 뜨는 뉴스