[HBR INSIGHT]‘회사 동료’가 된 AI에 대비할 때

인공지능(AI) 면접관부터 산업 자동화, 로봇 비서까지 새로운 디지털 기술이 출현하면서 21세기 일터가 바뀌고 있다. 많은 기업은 AI 시스템의 도입이 효율성과 생산성을 높여줄 것으로 기대한다. 하지만 이런 디지털 자동화가 정작 AI와 매일 마주하고 직접 부딪치는 직원들에게 어떤 영향을 주는지에 대한 관심과 연구는 여전히 부족하다.

기술 발전에는 무수한 장점이 따르지만 그만큼 단점도 많다. 일단 AI 기반의 서류 심사 자동화는 입사 훨씬 이전 단계부터 직원들의 채용 과정에 편향성 문제를 일으킨다. 새로운 연구에 따르면 전형적인 남자나 여자 이름, 인칭 대명사를 삭제하고 성별을 알 수 없게 만들더라도 고도로 발전한 최신 기계학습 모델은 지원자의 성별을 정확하게 맞힌다고 한다. 나아가 여성 지원자의 이력서에 남성에게서 주로 나타나는 특징이나 활동을 포함하는 등 이력서의 경력 관련 변수를 통제하더라도 여전히 여성 지원자가 면접 단계까지 가는 일이 남성 지원자보다 적다. 더 큰 문제는 차별 주체가 AI일 때 회사는 쉽게 세간의 비판을 모면하고 지원자 역시 사람이 아닌 알고리즘이 한 차별을 쉽게 수용한다는 점이다. 이런 경향은 AI가 촉발한 편견을 방치할 위험이 있다.

이렇게 AI는 채용 과정에서 입김을 행사할 뿐만 아니라 입사 이후에도 끊임없이 직원들을 모니터링한다. 디지털 모니터링 역시 직원과 고용주 모두에게 부정적인 영향을 미칠 위험이 있다. 한 연구팀이 학계 연구 결과 50여 개를 메타 분석한 결과에 따르면 디지털 모니터링을 실시할 때 직원의 직업 만족도가 줄어들고 스트레스가 늘어나는 것으로 나타났다. 성과에도 아무런 긍정적인 영향이 확인되지 않았으며 오히려 생산성이 떨어지기도 했다. 감시당한다고 생각할 때 직원들이 자신의 행동에 책임질 필요가 없다고 여겨 오히려 규칙을 더 어긴다는 연구 결과도 있다.

모니터링 외에도 이제 AI는 협업과 조언, 상담 등 모든 분야에서 직원들과 함께하고 있다. 직원들은 함께 일하는 로봇 동료들에게서 진정성을 기대한다. 특히 AI 도구가 진심 어린 방식으로 다가오고 인간적인 면모를 보여야 긍정적으로 반응한다. 다만 AI 자동화 도구가 인간의 특징을 흉내 내기에 급급하면 진정성이 오히려 부족하게 비칠 수 있고 이는 역효과를 가져올 수 있다. 실제로 알고리즘의 관리를 받는 직원들의 경우 똑같이 부정적인 피드백을 받더라도 인터페이스를 의인화한 알고리즘에 더욱 격렬하게 화를 낸다는 연구 결과도 있다. 연구자들은 이를 두고 사람들이 인간과 유사한 시스템에 더 많은 책임을 무의식적으로 부여하고, 이런 시스템이 준 부정적인 피드백에 더 큰 감정을 느끼기 때문이라고 설명한다.

이처럼 AI가 직원들의 업무에 깊이 침투하고 있지만 정작 직원들이 AI의 조언을 듣고 싶어 하는 부분은 따로 있다. 사람들은 어떤 결과를 예상하거나 추정할 때는 인간보다 알고리즘의 조언을 선호하지만 예상과 추정을 바탕으로 최종 결정을 내릴 때는 인간의 조언을 더 선호한다. 설령 AI가 결정을 내리더라도 왜, 어떻게 그런 결정을 내렸는지 알기를 원한다. 대형 병원에서 AI 진단 도구 활용을 조사한 현장 연구를 보면 전문 의료인들은 자신의 초진 결과와 AI의 판단이 다를 때 AI가 명확한 설명을 제시하지 않으면 자신의 판단을 밀어붙이지만 AI 진단 도구가 판단 근거를 제시하면 귀를 기울였다.

모든 신기술의 성장이 그렇듯 최근 많은 회사가 활용하고 있는 AI가 마냥 장밋빛 미래를 보장하는 것은 아니다. 자동화로 인해 사람이 일자리를 잃을 것이란 두려움도 존재하며 로봇으로 대체될 수 있는 저임금 일자리는 언제 사라질지 모른다. 언제나 긍정적인 일만 있을 순 없지만 그렇다고 우울한 것만도 아니다. 새로운 연구로 AI 도구의 다양한 효과를 탐구하면서 비즈니스 리더는 본인의 가설을 부지런히 확인하고 지나친 단순화의 오류를 피해야 한다. 육감에 의존하기보다는 최신 데이터와 사례에 기반을 두려는 태도가 필요하다.

이 글은 HBR(하버드비즈니스리뷰) 한국어판 디지털 아티클 ‘AI가 일터에 가져오는 변화’를 요약한 것입니다.

다그니 두카치 하버드비즈니스리뷰 편집자
정리=김윤진 기자 truth311@donga.com