[DBR]인간처럼 보이는 AI, 협업 성과 낮출 수도

AI 팀원과 함께 체스 퍼즐 풀게 했더니
인간으로 인식할 때 팀원 더 불신
본인 전문성 낮으면 같은 인간 못 믿어

인간과 인공지능(AI)은 과연 성공적으로 협업할 수 있을까. AI 기술이 비약적으로 발전하면서 학계에서는 AI가 ‘인간을 위한 도구’를 넘어 팀 구성원으로서 역할을 충분히 수행할 수 있을지를 둘러싼 논의가 뜨겁다. 최근 미국 사우스캐롤라이나주 클렘슨대의 한 연구진은 ‘인간과 AI로 함께 구성된 하이브리드 팀’이 ‘인간만으로 구성된 팀’보다 위기 관리를 위한 자원 분배 문제를 해결하는 과정에서 더 뛰어난 성과를 보였다는 연구 결과를 제시하기도 했다.

하지만 선행 연구들은 인간이 AI를 신뢰하지 않기 때문에 협업이 지연되고 있다는 반론을 제시하기도 한다. 일례로 2000명의 미국 소비자를 대상으로 한 한 연구는 다양한 분야의 AI 응용 프로그램에 대한 인간의 신뢰도가 전체적으로 낮은 수준이라는 결과를 내놓았으며 11개 산업 분야의 고위직 임원 1000명을 대상으로 한 연구는 AI에 대한 신뢰도가 낮아 미국 기업의 80%가 AI를 의사결정에 활용하지 못하고 있다고 보고했다. 이는 곧 AI가 기술적으로는 충분히 인간과 협업할 수 있는 능력을 갖췄지만 인간의 불신으로 협업에 어려움이 있음을 시사한다.

최근 카네기멜런공대 연구진은 과연 인간이 AI 팀원의 신분을 AI가 아닌 인간으로 인식하고 협업할 때 AI 팀원을 더 신뢰하는지, 그리고 이때 협업 성과가 개선되는지 확인하는 연구를 진행했다. 연구를 위해 32명의 체스 게임 참가자를 모집한 뒤 AI 팀원과 함께 체스 퍼즐을 푸는 과제를 수행하도록 했다. 연구는 의외의 결과를 나타냈다. AI 팀원을 인간이 아닌 AI로 인식할 때 팀원의 결정에 대한 수용도가 오히려 높아진 것이다. 연구진은 이를 두고 일반적으로 사람들이 AI가 인간보다 체스 전문성이 더 우수하다고 기대하기 때문에 이런 결과가 나왔다고 해석했다.

다만 체스 역량의 전문성이 높은 참가자들은 AI 팀원을 AI로 인식하든 인간으로 인식하든 팀원을 똑같이 신뢰했다. 오로지 팀원의 성과만 보고 신뢰할지 여부를 결정한 셈이다. 전문성을 갖춘 사람은 독자적으로 AI 팀원의 움직임을 판단할 수 있으므로 AI 팀원의 신분을 신경 쓰지 않는다는 것을 보여준다. 반면 전문성이 낮은 참가자들은 AI 팀원을 AI로 인식할 때 인간으로 인식할 때보다 더 높은 신뢰도를 보였다. 보통 참가자들이 타인의 체스 전문성을 추론할 때 본인의 체스 전문성 수준을 기준으로 삼는다는 점이 이 같은 결과에 영향을 줬을 것으로 분석됐다. 연구진에 따르면 전문성 수준이 낮은 참가자들일수록 AI 팀원이 인간임을 알았을 때 체스 수준이 AI보다 낮을 것이라 지레짐작한 것으로 해석된다.

이 같은 연구 결과는 AI를 인간으로 인식하게 한다고 해서 꼭 AI와 인간 사이의 협업 성과가 높아지지는 않는다는 것을 보여준다. 특히 해당 분야의 전문 지식이 부족한 인간은 같은 인간의 능력을 낮게 평가하기 때문에 AI 팀원이 인간임을 알았을 때 그 결정을 덜 수용할 수 있음을 유념해야 한다.

한지영 비어케이 영업2본부장 jeo0915@naver.com
정리=김윤진 기자 truth311@donga.com