“AI기술 부작용 감시, 정부기관 신설해야… IAEA가 모델될 것”

[민주주의 위협하는 AI]
올트먼 “표준 어기면 허가 취소”

여론 조작과 개인정보 유출, 저작권 침해 등 인공지능(AI)의 부작용에 대한 우려가 커지면서 16일(현지 시간) 미 상원 법제사법위원회 사생활·기술·법소위원회 청문회에서는 AI 기술 개발을 감독할 기관을 신설해야 한다는 목소리가 터져 나왔다.

‘챗GPT’ 개발사 오픈AI의 공동창업자 겸 최고경영자(CEO)인 샘 올트먼은 “AI 표준을 관리하는 새로운 정부 기관을 설립하고, 표준을 어기면 AI 개발 허가를 취소하도록 하자”고 제안했다. 이어 국제원자력기구(IAEA) 사례를 언급하며 국제적인 AI 규제기관 모델이 필요하다고 강조했다. IAEA는 원자력의 평화적 이용을 위해 설립된 국제기구로, 올해 2월 기준 175개국이 가입해 있다.

올트먼 CEO는 “미국이 다른 국가와 협력해 AI 국제 표준을 설정하는 것은 비현실적으로 들릴 수도 있지만 실제로 가능하고 전 세계에 큰 도움이 될 것”이라고 말했다.

뇌·인지과학자 게리 마커스 뉴욕대 명예교수도 “AI는 복잡하고 빠르게 발전하고 있다. 정규 업무를 담당하는 기관이 AI를 규제하는 것이 중요하다”고 했다. 그러면서 “고에너지 물리학을 담당하는 유럽입자물리연구소(CERN)처럼 AI 안전에 초점을 맞춘 국제적이고 중립적인 조직에서 과학자와 정부 간의 긴밀한 협력이 필요하다”고 강조했다.

미 정치전문매체 폴리티코에 따르면 AI 전문가들의 이 같은 제안은 청문회에서 초당적인 지지를 받았다. 딕 더빈 상원 법사위원장(민주당)은 “우리는 지금 경계가 없는 혁신을 다루고 있다”며 국제적인 AI 감독기구의 필요성에 공감을 표했다. 린지 그레이엄 의원(공화당)도 “AI 기술 개발이나 상용화에 허가 심사를 하는 기관을 설립해야 한다”고 했다.

다만 크리스티나 몽고메리 IBM 부사장 겸 개인정보보호 최고책임자는 이날 청문회에서 “기술 자체를 규제로 통제하는 대신에 개별 사례마다 현행법에 따라 대응하는 것이 낫다. 규제가 많아질수록 혁신을 저해할 것”이라며 반대 의견을 밝혔다.

한국도 AI 기술 개발에 대한 규제 논의를 시작했다. 이종호 과학기술정보통신부 장관은 17일 취임 1주년 기자간담회에서 “미국에서 AI와 관련해 민주주의에 위협이 될 수 있다는 (우려가 나오는) 부분도 ‘디지털 신질서’에 해당한다”면서 “(우리도) 체계적으로 검토해 (정책에) 반영할 수 있도록 하겠다”고 말했다.

윤다빈 기자 empty@donga.com
지민구 기자 warum@donga.com