죽었던 남편과 대화하고… “AI기술, 윤리적 논란 가이드라인 필요”

‘AI는 양심이 없다’ 출간 김명주 교수
“가상존재, ‘실제’ 아님 밝혀주고, AI 설계부터 공정성 고민해야”

2일 서울 노원구 서울여대 연구실에서 만난 김명주 교수. 그는 “인공지능(AI)이 인간을 대체할 정도의 가치가 있는지에 대한 판단을 다양한 분야의 연구자들이 논의해야 한다”고 말했다. 전영한 기자 scoopjyh@donga.com

넷플릭스 드라마 ‘블랙미러’ 시즌2 ‘돌아올게’에서는 교통사고로 남편을 잃은 아내가 가상의 남편과 얘기하고 부대끼며 산다. 남편의 소셜네트워크서비스(SNS) 기록, 통화녹음 등을 학습한 인공지능(AI)이 남편의 디지털 페르소나를 만들어낸 것. 죽은 이를 살려내는 기술은 드라마 속 이야기가 아니다. 일본 NHK는 2019년 3월 가상현실(VR) 기술을 이용해 배우 데가와 데쓰로가 별세한 어머니를 만나게 했고, 2020년 우리나라 한 방송사도 혈액암으로 일곱 살에 세상을 떠난 딸과 엄마가 만나는 프로그램을 기획했다.

AI 기술은 어디까지 사용해도 될까. 서울여대 정보보호학과 김명주 교수(59)는 2일 발간한 ‘AI는 양심이 없다’(헤이북스)에서 AI 기술이 인간의 죽음, 존재, 신뢰에 미칠 수 있는 윤리적 부작용과 해결 방안을 제안한다. 서울 노원구 서울여대에서 2일 김 교수를 만났다.

그는 “인간이 사별을 받아들이기까지 일정 단계를 거친다. AI를 통해 죽은 이를 만나게 되면 고인이 실제 살아 있다는 착각을 일으켜 정상적 애도 과정이 왜곡될 수 있다. 고인이 생각날 때마다 찾는 중독 현상도 나타날 수 있다”고 말했다. 컴퓨터공학 박사인 김 교수는 1994∼2002년 서울지방검찰청 특수부에서 컴퓨터범죄 사건 수사 자문을 맡았다. 인문학, 사회과학 전문가들과 2018년 AI 윤리 가이드라인 ‘서울 PACT’를 만들었다.

김 교수는 가상 가수, 인플루언서, 아나운서부터 가상 대선 후보까지 등장한 만큼 가상의 존재가 실제 인간이 아님을 밝히는 조치가 필요하다고 말한다. 싸이더스 스튜디오 엑스가 만든 가상 인플루언서 ‘로지’는 2020년 8월 처음 등장했을 때 가상의 존재임이 공개되지 않았다. 김 교수는 “가상 인플루언서는 제품을 사용해 보지 않고 광고를 하기 때문에 소비자를 기만하는 측면이 있다”며 “사람들도 속을 수밖에 없다”고 지적했다. 그는 “가상 존재에 대한 신뢰성 문제를 해결할 가이드라인이 필요하다”며 “미국은 딥페이크 기술을 사용할 경우 이를 명시하게 한 ‘딥페이크 법’을 2019년 만들었다”고 말했다.

AI 기술이 채용, 교육 분야에서도 활용되고 있어 인간의 편견을 답습하지 않도록 AI를 개발하는 것도 과제다. 아마존은 2016년 신입사원 채용 시 서류 평가에서 AI 프로그램을 도입했다가 여성 차별 논란이 일자 이를 폐기했다. 김 교수는 “AI 챗봇 ‘이루다’가 인종 및 지역 차별 발언을 한 건 이루다에 투입한 데이터에 담긴 편견 때문이었다”며 “AI 설계 초반부터 공정성을 고민해야 한다”고 강조했다.


김재희 기자 jetti@donga.com