[위클리 리포트] 높아진 ‘디지털 국경’에 혼란 검열에 동원되는 AI 美 국무부의 유학생 검열용 AI 5년치 SNS 내역-생체정보 요구… “오판 가능성… 절차 보완 필요”
미국 도널드 트럼프 행정부가 단기 방문객을 대상으로 한 무비자 전자여행허가(ESTA) 신청 시 최근 5년 치 소셜네트워크서비스(SNS) 기록 제출을 의무화하겠다고 밝히면서, 실제 심사 과정에 인공지능(AI) 기반 분석 프로그램이 활용될 가능성이 커지고 있다.
미 국토안보부 산하 세관국경보호국(CBP)은 10일(현지 시간) ESTA 신청 절차 강화 방침을 발표했다. 이에 따라 신청자는 최근 5년간 사용한 SNS 계정 정보를 제출해야 한다. CBP는 또 필요에 따라 최근 5년간 사용한 전화번호, 최근 10년간의 e메일 주소, 가족 구성원 개인정보, 얼굴과 지문, DNA 및 홍채 등 생체 정보 제출도 요구할 수 있다고 밝혔다.
외국인 유학생을 대상으로는 이미 AI로 SNS 기록을 분석해 비자를 취소하는 사례가 나타나고 있다. 미 국무부가 3월 초 AI 기반 프로그램인 ‘적발 및 비자 취소(Catch and Revoke)’의 사용을 공식화했기 때문이다. 이 프로그램은 유학생의 SNS 활동을 전수 조사해 팔레스타인 무장단체 하마스에 동조하거나 반유대주의적 성향을 보인 사례를 걸러낸다. 미 국무부에 따르면 이 절차를 통해 약 한 달 만에 300여 명의 비자가 취소됐다.
광고 로드중
이에 따라 비자 심사 과정에서 절차적 보완이 필요하다는 지적도 나온다. 최경진 가천대 법학과 교수는 “자동화된 AI 판단에 과도하게 의존할 경우 문제가 발생할 수 있다”며 “비자는 한 번 거절되면 회복이 사실상 어려운 결정인 만큼 거절 사유에 대한 설명과 오류 가능성에 대한 소명, 재심사를 요청할 수 있는 절차가 함께 보장돼야 한다”고 강조했다. 유럽연합(EU)은 AI 판단을 전적으로 기계에 맡기지 않도록 제도적으로 통제하고 있다. AI법(AI Act)은 생체인식, 이주, 사법, 채용 등 기본권에 중대한 영향을 미치는 AI를 ‘고위험 AI’로 규정하고, 감독자 지정과 로그 기록 의무를 통해 인간의 관리 책임을 명시하고 있다.
최효정 기자 hyoehyoe22@donga.com