얼굴인식 AI가 사기범 지목…무고한 시민, 5개월 옥살이

얼굴인식 소프트웨어 분석 결과로 용의자로 지목돼 체포됐던 앤절라 립스의 당시 머그샷. 립스는 사건과 무관한 것으로 확인돼 석방됐다. 사진=Fargo Police Department

얼굴인식 인공지능(AI)의 오판과 이를 충분히 검증하지 않은 수사 과정이 결합되면서, 무고한 시민이 장기간 수감되는 사건이 미국에서 발생했다.

30일(현지시간) 뉴욕타임스(NYT)에 따르면 테네시주 엘리자베스톤에 거주하는 앤절라 립스(50)는 지난해 7월 14일 자택에서 네 아이를 돌보다가 체포돼 노스다코타주로 이송된 뒤 약 5개월간 수감됐다. 석방된 날은 2025년 12월 24일, 크리스마스 이브였다.

립스는 파고 지역 방송국인 WDAY에 “여름옷을 입고 코트도 없이 밖에 있었는데, 너무 추웠고 땅에는 눈이 쌓여 있었다”며 “무서웠고, 어떻게 집에 가야 할지 몰랐다”고 당시를 회상했다. 변호사들과 자원봉사자의 도움으로 그는 며칠 후 가족과 재회할 수 있었다.

파고 경찰서장은 수사 과정에서 “일부 실수가 있었다”고 인정했지만, 지역사회에만 사과했을 뿐 피해자에 대한 직접적인 사과는 하지 않았다.

경찰이 용의자를 체포하는 모습. 얼굴인식 인공지능(AI) 오판으로 무고한 시민이 체포되는 사례가 발생하며 수사 과정에 대한 논란이 커지고 있다. 본 기사와 직접 관련 없는 이미지. 게티이미지뱅크

립스는 노스다코타주에서 발생한 8건의 은행 사기 사건 용의자로 지목됐다. 하지만 그는 해당 지역을 방문한 적조차 없었던 것으로 알려졌다.

수사의 출발점은 얼굴인식 프로그램 ‘클리어뷰 AI(Clearview AI)’였다. 경찰은 범행 영상 속 인물과 립스가 유사하다는 AI 분석 결과를 토대로 수사를 진행했다.

문제는 추가 검증이 부족했다는 점이다. 수사당국은 주변 인물 조사나 알리바이 확인 없이 SNS 사진과 신분증 사진 등을 근거로 동일 인물이라고 판단했고, 결국 체포와 기소까지 이어졌다.

이후 변호인은 립스가 범행 시점 테네시주에서 결제 및 입금 기록을 남겼다는 자료를 제출했고, 법원은 지난해 12월 혐의를 기각했다.

클리어뷰 AI 측은 “해당 기술은 수사 단서를 제공하는 도구일 뿐, 결론을 내리거나 체포를 권고하지 않는다”며 “훈련된 법 집행 전문가의 독립적인 검증이 필요하다”고 밝혔다.

전문가들은 이번 사건이 AI를 수사 도구로 활용할 때 기본적인 검증 절차가 필수적이라는 점을 보여준 사례라고 지적한다. AI 분석 결과만으로 체포와 기소를 결정할 경우, 오판이 곧바로 인권 침해로 이어질 수 있다는 점을 보여줬다.

최현정 기자 phoebe@donga.com