공론장 기대한 온라인에 파괴적 발언 넘쳐 최근 연구서 AI가 인간보다 중재 잘하고 근거 기반 토론으로 음모론 신념도 교정 합의점 찾는 역량 인간이 과연 더 나을까
이은주 객원논설위원·서울대 언론정보학과 교수
광고 로드중
최근 눈물, 콧물을 쏙 빼면서 시청한 한 드라마에는 “안중근 의사 후손이 한일전 심판을 본대도 그보다는 덜 편파적일” 만큼 어머니와 아내 사이에서 초지일관 아내 편을 드는 아들(관식)이 등장한다. 어렸을 적부터 일편단심이었던 이 아들을 두고 어머니는 노상 한탄조로 읊조린다. “개가 나아, 개가.”
인터넷이 등장하면서 누구나 본인의 주장을 자유롭게 표명하고 다수의 대중과 공유할 수 있는 길이 열렸다. 혹자는 독일의 철학자 위르겐 하버마스가 말했던 공론장이 온라인 공간에서 실현될 것으로 기대하기도 했다.
하지만 현실은 어떠한가? 뉴스 댓글, 온라인 커뮤니티, 유튜브를 비롯한 소셜 플랫폼에서 마주치는 날것 그대로의 발언들은 타인에 대한 존중이 결여돼 있을 뿐 아니라, 지독히 폭력적이고 파괴적이다. 공공선을 지향하는 합리적인 시민들이 자유롭게 공공의 문제를 토론하고 비판적으로 숙고하는 과정을 통해 합의에 도달하는 아름다운 광경은 어디서도 찾기 힘들다. 따지고 보면, 온라인이든 오프라인이든 다양한 의견이 오가는 가운데 집단적 합의에 이르는 것은 본질적으로 매우 어려운 일이다. 우리는 모두 자신이 알고 있는 세계가 전부이고, 본인이 믿고 지지하는 바가 옳다고 생각하는 경향이 있기 때문이다.
광고 로드중
연구 결과, 집단 구성원들은 일관되게 AI가 생성한 의견서를 인간 중재자가 작성한 의견서보다 선호했다. 외부 평가자들 역시 전자를 품질, 명확성, 정보성, 공정성 측면에서 더 높게 평가했다. 그뿐 아니라 AI가 중재한 경우, 숙의 과정 이후 참가자들의 입장이 공통된 방향으로 수렴하는 경향을 보였다. 이러한 효과는 참가자들이 중재자 없이 직접 의견을 교환한 경우에는 발생하지 않았다. 즉, AI가 상이한 입장을 가진 사람들 가운데 서로 동의할 수 있는 공통분모를 발견하도록 도운 것이다.
AI 챗봇이 분야를 가리지 않고 횡행하는 근거없는 음모론에 대한 대중의 믿음을 줄일 수 있다는 연구 결과도 보고됐다. 대개 음모론에 대한 신념은 특정 욕구나 동기에 기반을 두고 있기 때문에 사실이나 반박 증거를 통해 바로잡기는 어렵다고 여겨져 왔다. 하지만 연구진은 AI 챗봇의 ‘맞춤형’ 논증을 통해 이러한 한계를 극복할 수 있음을 보였다.
예를 들어, 연구 참여자가 “기후변화는 엘리트들이 만든 사기극”이라거나 “코로나 백신에 마이크로칩이 들어 있다”고 말하고 해당 음모론을 지지하는 증거를 설명하면, AI 챗봇은 “이런 믿음을 갖게 된 계기가 무엇인지 궁금하다”며 상대의 관점을 존중하면서 해당 음모론을 반박하는 과학적 근거를 제시하도록 설계됐다. 대조군에서는 관련 없는 주제로 AI와 대화를 나눴다.
총 2200여 명의 미국인이 참여한 두 번의 실험에서, AI 챗봇과의 짧은 대화 이후 참가자들의 음모론 신념은 평균 20% 가까이 감소했고, 이 효과는 2개월 이상 지속됐다. 이러한 반박효과는 존 F 케네디 전 미국 대통령 사망에서 2020년 미 대선 결과에 이르기까지 다양한 음모론에서 일관되게 나타났다. 심지어 대화에서 다루지 않은 다른 음모론에 대한 믿음도 전반적으로 감소했다. 이 연구에서 AI가 제시한 근거의 99% 이상이 팩트체커들에 의해 정확한 것으로 평가 받았다는 사실은, 적확한 정보를 제공함으로써 음모론에 대한 잘못된 믿음을 효과적으로 교정할 수 있음을 시사한다.
광고 로드중
이은주 객원논설위원·서울대 언론정보학과 교수