전체메뉴
페북 등 글로벌 기업 ‘음성인식 AI’ 사생활 침해 논란, 국내까지 상륙
더보기

페북 등 글로벌 기업 ‘음성인식 AI’ 사생활 침해 논란, 국내까지 상륙

황태호기자 , 김재형기자 입력 2019-09-03 17:27수정 2019-09-03 18:15
뉴스듣기프린트
트랜드뉴스 보기
음성인식 인공지능(AI) 서비스를 둘러싼 사생활 침해 논란이 국내에서도 불거졌다. 네이버를 비롯한 국내 정보기술(IT) 기업들이 음성인식 AI 서비스를 통해 입력되는 사용자의 목소리를 기록한 것으로 나타났다. 최근 구글과 애플, 아마존, 페이스북 등 글로벌 IT 기업들이 같은 문제로 사생활 침해 논란을 겪은 것과 같은 상황이다. 사용자들은 “기계인 줄로만 알았던 AI 서비스 뒤 어딘가에서 실제 사람이 내 말을 듣고 있었다”며 불쾌해하지만 기업들은 ‘서비스 개선’을 위한 불가피한 과정이라고 설명한다.

● 기계 뒤에서 사람이 듣고 있다

네이버 ‘클로바’
3일 IT업계에 따르면 네이버의 ‘클로바’와 삼성전자의 ‘빅스비’, SK텔레콤 ‘누구’ 등 대부분의 음성인식 AI 서비스가 사용자 목소리를 수집하는 것으로 나타났다. 이를 분석해 AI 서비스가 사용자의 명령어를 잘못 알아듣는 등 인식률이 떨어지는 상황을 개선하기 위해서다.


문제는 저장된 사용자 목소리를 사람이 듣고 문자화한다는 점이다. 네이버의 경우 계열사인 ‘그린웹’의 직원들이 수집된 사용자 음성의 일부를 직접 듣고 이를 문서로 만드는 작업을 해 왔다. 빅스비, 누구를 통해 수집된 음성정보 역시 비슷한 작업을 거친다. 이처럼 음성정보를 수집하고 다른 기업에 제공한다는 점은 서비스의 이용약관에 명시돼 있다.

주요기사

삼성전자 ‘빅스비’
하지만 대부분의 사용자는 이런 사실을 모른 채 ‘아무도 안 듣는 대화’라고 인식한다. 따라서 남에게 노출하기 싫은 사적인 내용을 기계인 AI 서비스에 말하는 경우도 있다. 또 ‘청취’ 기능이 활성화된 상황에서 타인과 나눈 대화도 수집이 된다. 실제로 삼성전자는 빅스비 이용약관에 ‘민감정보(사상·신념, 노동조합·정당의 가입·탈퇴, 정치적 견해, 건강, 성생활 등에 관한 정보 등)는 검색 또는 음성 입력되지 않도록 유의해달라’고 명시해 놓기도 했다.

● “AI 서비스 개선 위해 필수”…기업마다 방식 달라

아마존 ‘알렉사’
이 같은 문제는 올 들어 글로벌 IT 기업들에서 먼저 불거졌다. 4월에는 세계 최대 전자상거래업체인 아마존이 세계 전역에서 수천 명의 계약직을 동원해 AI 스피커 ‘알렉사’의 사용자 음성 명령을 녹음해온 사실이 드러났다. 애플 ‘시리’와 구글 ‘어시스턴트’, 페이스북 메신저 역시 마찬가지다.

IT업계에서는 “AI 서비스 성능을 개선하기 위해 반드시 필요한 과정”이라고 설명한다. 박명순 SKT AI사업유닛장은 “현재 기술 수준에서는 사용자의 명령어를 AI 서비스가 수행하지 못할 경우 사람이 직접 ‘지도’를 해야 오류를 바로잡을 수 있다”며 “기계 스스로의 학습에만 맡길 경우 서비스 개선 속도가 현저히 느려진다”고 설명했다.

SKT ‘누구’
기업마다 음성정보를 처리하는 방침은 조금씩 다르다. 네이버와 SKT는 사용자 계정(ID)과 음성정보 데이터를 분리하는 ‘비식별’ 작업을 거친 뒤 음성 명령어를 나눠 입력한다. 음성데이터가 화자를 분간할 수 있는 ID와 분리되기 때문에 사생활 침해 여지가 줄어든다는 설명이다. 네이버는 음성명령 저장 허용 여부를 사용자가 직접 결정할 수 있는 기능도 조만간 도입할 예정이다. 반면 아마존과 구글의 경우 ID별로 음성정보를 저장하고, 애플은 저장 6개월 후 비식별화를 진행하는 것으로 알려졌다. 삼성전자는 비식별화 여부를 별도로 안내하지 않고 있다.

황태호 기자 taeho@donga.com
김재형 기자 monami@donga.com


당신이 좋아할 만한 콘텐츠


기사 의견

   

주요뉴스

1/3이전다음