막 오른 AI 시대, 그리고 위협받는 민주주의 [김도연 칼럼]

AI, 지적 혁명 계기지만 ‘양날의 검’이기도 해
조작된 정보로 공명정대한 선거 위협할 수도
여야, AI 통한 선거 악용 제어 방법 마련해야

김도연 객원논설위원·태재미래전략연구원 이사장

AI, 즉 인공지능을 처음으로 개념화한 사람은 컴퓨터과학의 아버지라 불리는 앨런 튜링이다. 그는 1950년에 ‘생각하는 기계’도 가능한가라는 질문을 던지며 이를 인간과의 대화 능력으로 측정하자는 소위 튜링 테스트를 제안했다. 즉, 주어진 질문에 대해 기계와 인간의 답변을 구별할 수 없으면 그것이 바로 인공지능이라는 것이다. 기계가 어떻게 답변을 만드는지는 중요하지 않으며 이는 실제 인간관계에서도 마찬가지라고 지적했다. 실제로 대화는 지능을 지닌 인간만의 능력이다.

전문가들이 이렇게 AI에 관심을 갖기 시작한 것은 이미 오래전이다. 그러나 AI가 일반인들에게 다가온 것은 이세돌 프로 바둑 기사가 AI에 완패한 2016년이었다. 서양장기에서는 벌써 오래전 컴퓨터가 인간을 밀어냈지만, 무한에 가까운 바둑의 수를 헤아리는 것은 불가능하다고 믿었는데 AI가 이를 돌파한 것이다. AI는 그 후에도 계속 빠르게 발전해서 작년 말에는 드디어 우리가 쓰는 일상 언어로 쉽게 소통하면서 유용한 지식과 정보를 제공하는 생성형 챗GPT가 삶에 들어왔다.

챗GPT에 스스로는 튜링 테스트를 통과한 것이냐고 물었더니 다음과 같은 답변이 돌아왔다. “저는 통과 여부를 판별할 수 없습니다. 튜링 테스트는 기계와 인간을 구별하기 위해 인간이 수행하는 주관적 평가입니다. 제가 튜링 테스트를 통과했는지에 대해서는 사람마다 다른 의견을 가질 수 있습니다. 저는 인간과 유사한 응답을 생성하지만, 의식이 있는 존재가 아니며 자각이나 진정한 이해력을 가지고 있지 않습니다.” 이 답변이라면 튜링 테스트 통과일까? 튜링 본인이 살아 있다면 과연 어떻게 평가했을까? 여하튼 기계의 대화 능력은 벌써 대단한 경지다. 인공지능 시대의 막이 활짝 열린 것이다.

500여 년 전 발명된 금속활자를 이용하는 인쇄 기술은 지적(知的) 혁명을 가져왔다. 극소수 상류층만 소유할 수 있었던 책이 쉽게 만들어지면서, 지식의 확산과 축적이 가속되었다. 그리고 활자가 있는 곳에는 삶의 큰 변화, 즉 혁명이 일어났다. 인쇄 기술은 종교개혁을 촉발했고 프랑스 대혁명이나 영국 산업혁명의 씨앗이 되었다. 그 결과로 오늘의 우리는 풍족한 산업문명시대를 살고 있다. 그런데 AI는 인류의 산업문명을 디지털 시대로 전환시키는 또 다른 지적 혁명의 계기가 될 것으로 믿어지고 있다. AI 기술 발전은 이제 겨우 시작점에 있으니, 우리 사회는 정치, 경제, 국방 그리고 교육 등 모든 측면에서 엄청난 변화를 맞게 될 것이다.

여기에서 각별히 유념해야 할 점은 AI가 축복과 재앙을 함께 지닌 양날의 검이라는 사실이다. 재앙을 막지 못한다면 축복은 아무 의미도 없을 것이다. 최근에는 세계 28개국이 AI 안전정상회의에 모여 그 위험 방지책을 논의하고 첫 공동선언을 낸 바 있다. 그리고 영국과 미국 정부가 AI 안전 전담 부처를 신설한 것은 타산지석이다. AI로 인해 없어질 일자리, 그리고 기계적 판단에 의해 자칫하면 발발할 핵전쟁 등 여러 가지 위험이 있지만 그와 더불어 우려되는 일 중의 하나는 AI에 의해 민주주의가 파괴될 수도 있다는 점이다.

특히 우리 사회는 총선을 앞두고 있다. 유튜브 등의 소셜네트워크서비스(SNS)로 이미 우리는 극단적인 정치적 편향에 빠져 있는데 여기에 AI가 악용되면 어떤 일이 벌어질까? 한 토막의 목소리와 몇 장의 사진만으로도 연설 영상을 맘대로 꾸밀 수 있는 세상인데, AI를 이용한 가짜 콘텐츠로 선거판을 흔들고 유권자를 혼란에 빠뜨리면 어떻게 될까? 수년 전 김경수 전 지사가 처벌받았던 드루킹 댓글 조작 사건과는 비교도 할 수 없는 선거 질서 파괴가 예측되는 일이다. 민주주의의 기본 중 기본인 공명정대한 선거를 위협하는 일이다.

이런 이슈야말로 정치인들, 특히 국회의원들이 대처해야 할 일인데 우리 여의도는 총선에서 표를 더 얻기 위한 포퓰리즘 경쟁에만 빠져 있다. 오로지 개인의 영달과 소속 집단의 권력 강화만을 생각하는 국민의 대표들이 매우 아쉽다. 답답한 마음에 챗GPT에 내년 4월의 대한민국 선거에서 악의적인 AI 사용을 어떻게 막을 수 있겠냐고 물었더니, 사이버 보안 강화, 관련 법률 제정 그리고 내부 고발자 보호 등 10가지 방안을 세세히 제시했다. AI는 이렇게 유용하지만 그 악용은 모두에게 커다란 위험이다. 이를 제어하는 일은 결코 정쟁의 대상이 아니다. 늦었지만 이제라도 대한민국의 민주주의를 위해 여야가 지혜를 모아주길 바란다.

김도연 객원논설위원·태재미래전략연구원 이사장