챗GPT에 ‘AI와 개인정보 유출’ 물어 법안 낸 野의원

더불어민주당 김영배 의원이 인공지능(AI) 회사의 알고리즘으로 인해 개인정보가 유출된 경우 개인정보보호위원회가 해당 알고리즘을 제출받아 시정 사항이 있는지 확인할 수 있도록 하는 개인정보보호법 개정안을 대표 발의했다.

더불어민주당 김영배 의원. 국회사진기자단

AI 알고리즘 기술을 통해 개인정보가 수집·활용되는 사례가 늘어나는 가운데 AI 회사에서 개인정보가 유출됐을 때를 대비한 대책을 마련하자는 차원이다. 현행 개인정보보호법에는 AI·알고리즘에 의한 개인정보 유출이 발생했을 경우 유출한 회사를 처벌하거나 개인정보 소유자의 권리를 구제하는 방안이 없다는 것.

이번 법안은 대화형 AI 서비스 ‘챗GPT’(Chat GPT)에 AI의 문제와 해결책을 물어서 만들었다는 게 특징이다. 김 의원이 이번 법안을 ‘AI 셀프 규제법’이라고 명명한 이유다.

더불어민주당 김영배 의원이 공개한 챗GPT와의 AI 문제, 해결책 관련 대화록. 김영배 의원실 제공.

21일 김 의원이 공개한 챗GPT와 대화록에 따르면 김 의원이 “AI가 다양한 분야에 활용됨으로서 가장 크게 위험을 초래할 것은 무엇인가”라고 묻자 챗GPT는 “AI는 다양한 데이터를 수집, 분석하며 개인의 개인정보를 유출할 수 있어 개인의 프라이버시를 침해할 수 있다”고 답했다.

이에 김 의원은 “한국에서 개인정보 유출 방지를 위한 방안”을 물었고 챗GPT는 “개인정보 보호법을 개정해, AI 시스템에 관한 규제를 강화해 개인정보 유출 방지를 위한 규정을 제정할 수 있다”고 답했다. 이어 이를 관리, 감독해야 하는 정부 부처는 개인정보보호위원회라고 했다.

김 의원은 “챗GPT와 직접 대화해본 결과, AI 스스로도 AI의 발전에 따른 개인정보 보호 문제를 인식하고 있었다“며 “‘생체인식 기술과 프라이버시 문제’ 등과 같이 AI 발달 관련 쟁점들에 대해 챗GPT를 활용해 관련 법률 개정안을 추가로 발의할 것이라 예고했다.

조권형 기자 buzz@donga.com