EU, AI 위험요소 관리 안하는 기업에 과징금…발전저해 우려도

게티이미지코리아

유럽연합(EU)이 인공지능(AI)의 위험요소를 제대로 관리하지 않는 기업에게 매출의 최대 4%를 과징금으로 부과하는 제재안을 마련했다. 고위험 AI에 대한 사회적 폐해를 사전에 차단하겠다는 의도지만 모호한 기준과 규제 강화로 AI발전이 저해될 것이란 우려도 제기된다.

BBC 등에 따르면 EU 집행위원회는 이런 내용을 담은 AI 규제안을 21일 발표하기로 했다. 핵심 내용은 △인간의 행동, 의견, 결정을 조작하는 알고리즘 사용 △공공장소 내 얼굴, 생체인식 감시 무분별 사용 △개인, 조직의 취약점 공략 △소셜미디어 내에서 정보 조작 등고위험 AI의 사용을 금지하는 것이다.

이에 따라 기업들은 1차적으로 규제안을 스스로 준수한 후 자체 평가를 해야 한다. 특히 위험도가 높아질 때 즉각 AI 체계를 차단할 수 있는 일명 ‘킬 스위치’(kill switch)를 구축해야 한다. 어기면 제3기관의 검사, AI 시스템 사용 제한, 최대 2000만 유로(약 268억 원) 혹은 전체 매출의 4%에 해당되는 과징금이 부과된다. 다만 테러범 검거 등 안보 위협 상황에서의 AI 기술 사용은 허용된다.

EU는 구글 등에서 사용하는 표적광고 알고리즘도 규제하려는 움직임을 보이고 있다. 운동화를 검색하면 관련 제품이 웹페이지, 소셜미디어 곳곳에 보이는 광고 알고리즘 때문에 개인정보 유출이 심하다고 판단한 탓이다. 정치매체 폴리티코는 “EU는 AI기술을 활용해 감시국가를 만든 중국의 길보다는 인간 중심적인 AI사용을 원하고 있다”고 전했다.

일각에서는 이력서 분석, 신용평가, 망명·비자 신청 과정 등 현재 EU 내에서 활용되는 AI알고리즘도 ‘고위험 AI’에 속할 수 있다며 법안이 시행되면 상당한 사회 혼란이 불가피하다고 우려한다. 미국과 중국의 세계적 대형 정보기술(IT) 기업을 보유한 양대 패권국과의 갈등도 예상된다. AI와 사회문제를 연구해온 유럽 비영리법센터는 “복잡한 AI생태계에 비해 규제 기준이 애매하고 엉성하다”고 비판했다.

파리=김윤종 특파원 zozo@donga.com