“AI에 물어봤더니…” 지나친 맹신 가로등-보안등 구분 못해 오답 등… 실제 법률답변 18%-의료 15% 오류 공무원들 민원 처리에 시간 뺏겨 전문가 “기술 한계 인식시킬 필요”
광고 로드중
“인공지능(AI)이 가능하다는데 왜 안 된다고 해요?”
경남의 한 기초자치단체 공무원 강모 씨(25)는 올해 초 한 민원인과 황당한 실랑이를 벌여야 했다. 발단은 “자주 걷는 거리가 밤에 어두우니 가로등을 설치해 달라”는 민원이었다. 강 씨가 “설치 가능한 지역인지 규정을 먼저 확인해 보겠다”고 안내하자, 민원인은 대뜸 “AI에 물어보니 가능하다고 한다”며 맞섰다.
강 씨가 야간 상황을 살피려 퇴근 후 해당 지역을 직접 찾아가 보니, 실제로는 도로 폭이 좁아 가로등 설치 요건을 충족하지 못하는 곳이었다. 민원인이 원했던 것은 보행자를 위한 ‘보안등’이었는데, AI가 가로등과 보안등의 설치 조건과 법적 기준을 전혀 구분하지 못한 채 오답을 내놓은 것이다. 강 씨가 정확한 규정을 설명했지만 AI의 답변만 믿은 민원인은 국민신문고에 재차 민원을 제기했다.
광고 로드중
하지만 일부 사용자들은 AI의 답변에 비판 없이 의존하는 경향이 심화되고 있다. 특히 건강과 직결된 의료 현장의 혼란이 크다. 노수진 대한약사회 홍보이사는 “최근 젊은 환자를 중심으로 일반 의약품을 구매할 때 AI에 미리 물어보고 자신의 병명을 확정 지은 채 특정 약품만 고집하는 경우가 늘고 있다”며 “약사가 정확한 복약 지도를 위해 환자의 상태나 증상을 물어도 이를 받아들이지 않는 일이 잦다”고 말했다. 서울 강서구에서 근무하는 약사 강모 씨(33)는 “일부 환자의 경우 ‘정확하게 AI가 추천한 제품을 원한다’고 실랑이를 벌여 대기가 길어지기도 한다”며 “AI가 추천했다는 이유로 태도가 너무 완고해 다른 약을 추천할 수도 없다”고 했다.
● 사회적 낭비로 이어지는 AI 환각
이처럼 AI가 뱉어낸 정보의 진위를 재확인하고 수습하는 데 시간을 빼앗기는 현상은 수치로도 증명된다. AI 플랫폼 기업 워크데이가 국내 회사원을 대상으로 설문한 결과, 응답자의 69%가 “AI로 도출된 정보나 결과물의 오류를 수정하고 재확인하는 데 시간을 쓴다”고 답했다. 혁신과 효율을 위해 도입된 AI가 도리어 사람의 시간을 AI 결과물 검증 작업에 다시 쏟게 만드는 이른바 ‘재작업 세금(Rework Tax)’의 굴레를 만드는 것이다.
전문가들은 기술의 한계를 명확히 인식하고, 민원인과 기관 양측의 대응 역량을 동시에 높여야 한다고 지적했다. 김태윤 한양대 행정학과 교수는 “환각으로 나온 잘못된 정보에 현혹되지 않는 태도와 동시에 이를 걸러낼 수 있는 공무원들의 응대 역량이 필요하다”고 말했다.
광고 로드중
정서영 기자 cero@donga.com
정동진 기자 haedoji@donga.com