[횡설수설/박중현]안면인식 AI 공포

  • 동아일보
  • 입력 2021년 11월 5일 03시 00분


코멘트
“영장류(primates)에 대한 영상을 계속 보시겠습니까?” 올여름 미국의 한 페이스북 이용자는 이런 페이스북 알림을 받았다. 어쩌다 이런 질문이 나왔는지 추적해본 그는 경악했다. 열어본 영상 중 백인 경찰과 말다툼하는 흑인 남성을 페이스북의 안면인식 인공지능(AI)이 고릴라, 침팬지 등과 같은 영장류로 인식했던 것이다. 이 사실이 올해 9월 공개되자 페이스북은 “분명히 용납할 수 없는 AI 오류”라며 사과했지만 인종차별 논란에 곤욕을 치렀다.

▷최근 내부자 폭로 등 각종 악재를 맞아 회사명을 ‘메타’로 바꾼 페이스북이 안면인식 프로그램을 이달 안에 종료하기로 했다. 축적된 10억 명분의 관련 자료도 삭제한다. 메타 측은 “지속적인 불확실성 속에서 기술의 사용 범위를 제한하는 것이 적절하다고 생각했다”고 했다. 하지만 사전 동의 없는 생체정보의 수집, 저장을 금지한 미 일리노이주의 법을 위반했다가 올해 3월 6억5000만 달러(약 7680억 원)의 합의금을 물게 된 게 직접적 계기다.

▷2010년 말 시작된 페이스북 안면인식 기술은 AI를 활용해 영상, 사진 속 인물이 누구인지 알아내는 기술이다. AI는 사용자의 사진들을 분석해 식별하고 아는 사람이 페이스북에 사진을 올렸을 때 공유할 수 있게 해준다. 10년이 넘는 데이터 축적과 학습으로 페이스북 사진에 마우스를 갖다 대면 인물 이름이 뜰 만큼 정교해졌다. 친구끼리 추억을 쉽게 공유하게 해준다고 페이스북은 홍보했지만 영장류 사건 같은 착오와 사생활 침해 논란이 끊이지 않았다.

▷중국에선 안면인식 기술의 무차별적 사용이 큰 사회 문제다. 작년 11월엔 중국 산둥성의 아파트 모델하우스에 오토바이 헬멧을 쓰고 방문한 남성이 화제가 됐다. 부동산 개발업체가 첫 방문에 계약하면 할인 혜택을 준다며 안면정보를 모으자 이를 피하려고 헬멧을 쓴 것이다. 중국 정부의 청소년 이용시간 제한조치 때문에 게임업체들이 안면인식 기능을 강화한 뒤 일부 청소년이 심야에 잠자는 부모 얼굴에 스마트폰을 몰래 들이대는 일도 벌어진다고 한다.

▷한국에선 올해 초 안면인식 폐쇄회로(CC)TV와 AI를 연계한 코로나19 확진자 추적시스템 구축을 추진하던 경기 부천시가 여론의 반발에 부딪혔다. 방역이 아무리 중요해도 AI가 일거수일투족을 감시하는 데 대한 두려움과 거부감이 만만치 않은 것이다. 신장위구르 자치구의 소수민족 감시 등에 안면인식 기술을 사용해 국제사회의 비판을 받는 중국은 올해 7월 최고인민법원이 사전 동의 없는 안면인식 기술의 이용을 제한하는 법을 만들었다. 한국도 안면인식 기술로 인한 인권 침해를 방지할 법체계 정비를 서두를 때가 됐다.

박중현 논설위원 sanjuck@donga.com
#안면인식 인공지능#인종차별 논란#인권 침해
  • 좋아요
    0
  • 슬퍼요
    0
  • 화나요
    0
  • 추천해요

댓글 0

지금 뜨는 뉴스