“AI 악용땐 아주 싸게 허위정보 대량생성 가능… 민주주의에 치명적”

랜데이 美스탠퍼드大 HAI 부소장
“허용-금지 행위, 정책 통해 강제해야”

“나쁜 의도를 가진 이용자들이 인공지능(AI) 기술을 악용하면 (2024년 미국 대선 등) 민주주의에 치명적인 위협이 될 것입니다.”

제임스 랜데이 미국 스탠퍼드대 인간중심인공지능연구소(HAI) 부소장(사진)은 지난달 17일 동아일보와의 화상 인터뷰에서 무분별한 AI 기술 활용이 불러올 문제에 대해 이같이 지적했다. 그는 “매우 낮은 비용으로 허위 정보를 대량으로 생성할 수 있다는 점에서 큰 문제”라며 “사회의 혼란과 불만, 오해를 심고 정치적으로 선동하려는 목적을 가진 이들이 악용할 가능성이 우려스럽다”고 강조했다.

스탠퍼드대 공과대학 컴퓨터과학과 교수로 재직하고 있는 랜데이 부소장은 ‘딥러닝의 대모’로 불리는 페이페이 리 소장과 함께 2019년 HAI를 공동 설립했다. HAI는 AI 기술이 사회 전반에 이롭게 쓰일 수 있는 방향에 대해 연구하는 기관이다.

랜데이 부소장은 AI로 만든 허위 정보가 뉴스 신뢰도에 전반적으로 나쁜 영향을 줄 가능성도 우려했다. 2016년과 2020년 미국 대선에서 러시아 배후 해킹 조직이 댓글과 허위 뉴스 등으로 여론 조작에 개입한 의혹을 대표적인 사례로 꼽았다.

지난달 12일(현지 시간) 스탠퍼드대에서 리 HAI 소장이 참석한 가운데 열린 AI 기술 관련 대담 행사에서도 AI와 민주주의는 핵심 주제였다. 리 소장은 “AI를 포함한 여러 기술 융합을 통해 나타난 잘못된 정보 등이 사회에 도전적이거나 적대적인 세력이 되고 있다는 사실을 인식하는 것이 매우 중요하다”고 말했다.

생성형 AI 서비스 챗GPT를 개발한 오픈AI와 협력 관계에 있는 마이크로소프트(MS) 최고위급 임원도 현장에서 AI 조작 정보와 관련한 우려를 제기했다. 에릭 호로비츠 MS 최고과학기술책임자(CSO)는 “정부 최고위층도 (생성형 AI 등장으로) 가장 우려하는 것이 ‘민주주의의 침식’으로 알고 있다”고 전했다.

이들은 AI가 불러일으킬 부정적 영향을 최소화하기 위해선 정부와 입법 기관, 업계, 일반 이용자 등 다양한 사회 구성원이 논의에 참여해야 한다는 점을 강조했다. 리 소장은 “기술 설계 시 윤리 문제를 단순히 ‘후폭풍(aftermath)’으로만 취급하지 말고 개발 초기 단계부터 개발자와 이용자, 정부, 학계 모두가 함께 논의 테이블에 모여야 한다”고 강조했다. 랜데이 부소장은 “이미 AI 기술이 사회에 미치는 부정적인 영향을 경험한 만큼 정책을 통해 허용되는 것과 금지해야 하는 행위를 구분한 뒤 강제할 필요가 있다”고 말했다.

스탠퍼드·서울=남혜정 기자 namduck2@donga.com