“혁신 기술은 시행착오 동반… 실패에서 배우는 속도가 중요”

통신사 보안 사고, 비판 거세지만… 자율주행기술도 사고 겪으며 진화
실패 데이터가 기술 완성도 높여… 취약점 파악하고 보완하면서 발전
뭘 배우고 어떻게 개선할지 더 중요… 위험 통제하고 오류 다 공개해야

지난해 국내 통신사들은 대규모 해킹 사건과 더불어 개인정보, 통화정보 유출로 몸살을 앓았다. 논란이 잇따르면서 정보기술(IT) 업계 안팎에서는 보안 투자가 미흡하다는 비판이 제기되기도 했다.

하지만 전문가들 사이에서는 다른 목소리도 나온다. 기술 혁신이 진행될 때는 다양한 시행착오가 수반될 수 있다는 점을 고려해야 한다는 것이다. 신민수 한양대 경영학부 교수는 “국내는 물론 해외 기업들도 치열한 경쟁 속에 빠른 속도로 첨단 기술을 도입하면서 예기치 못한 오류와 실패를 마주하고 있다”며 “중요한 것은 이러한 실패로부터 얼마나 빨리 무엇을 배우고 어떻게 개선해 나가느냐다”라고 말했다.

● 첨단 기술, 사고와 오류 겪으며 발전

크게보기

기업들은 신기술이 어떤 문제를 불러일으킬지 모르는 채 비즈니스에 나서야 하는 상황인 경우가 적지 않다. 혁신적 기술을 구현할 때 기존의 사회 규범, 가치와 충돌하는 경우가 대표적이다.

일례로 일론 머스크가 설립한 인공지능(AI) 기업 ‘xAI’의 챗봇 ‘그록(Grok)’을 들 수 있다. 13일 로이터통신에 따르면 최근 인도네시아에 이어 말레이시아 통신 당국은 그록에 대한 접속을 차단하는 조치를 내렸다. 소셜네트워크서비스 X(옛 트위터)에서 그록을 통해 간편하게 딥페이크 이미지를 생성하는 서비스가 나온 후 노출이 심한 딥페이크 이미지를 만들어 올리는 사례가 속출하면서 세계적으로 논란이 확산한 데 따른 것이다.

최근 폐막한 세계 최대의 정보기술·가전 전시회 ‘CES 2026’에서 각광받은 피지컬 AI도 예측하기 힘든 사고의 위험을 내포하고 있기는 마찬가지다. 전문가들은 피지컬 AI가 주어진 과제를 수행하다가 사람과 물리적으로 충돌하는 식의 사고가 날 가능성이 매우 높다는 점에 공감한다.

● 혁신 속도만큼 실패로부터 배우는 속도 중요

하지만 이러한 위험이 혁신을 포기해야 할 이유는 아니라는 것이 전문가들의 공통된 견해다. 상당수의 첨단 기술이 기술적 한계로 인한 오류와 사고를 겪으면서 발전해 나간다. 테슬라가 선도하고 최근 엔비디아까지 뛰어든 자율주행 기술이 대표적 사례다.

테슬라는 2016년 미국 플로리다주에서 자율주행 모드로 달리던 모델S 차량이 좌회전하고 있는 대형 트럭과 충돌해 운전자가 사망하는 치명적인 사고를 경험했다. 당시 시스템이 하얀색 트레일러를 차량이나 장애물로 전혀 인식하지 못한 오류가 사고로 이어진 것이다. 테슬라는 이 사고를 바탕으로 모델S의 인식 시스템을 개선했다. 우버(Uber)는 2018년 3월 미국 애리조나주에서 시험 차량이 무단횡단하던 보행자를 치어 숨지게 하는 사고를 낸 이후 대대적인 안전 프로그램 개선을 진행했다.

반면 실패로부터 제대로 배우지 못한 사례도 있다. 의사를 대체할 수 있는 혁신적 기술의 아이콘으로 떠올랐던 IBM의 AI 모델 ‘왓슨’은 다양한 의료 데이터를 충분히 확보하지 못한 상황에서 의료진이 실제로 쓰는 언어를 제대로 인식하지 못하는 약점까지 드러냈다. 사실상 실패한 프로젝트라는 평가를 받고 있는 왓슨은 기술적 완성도보다 빠른 상용화에 집중한 결과 충분한 학습과 개선의 시간을 갖지 못한 사례로 꼽힌다.

신 교수는 “모든 혁신 기술은 실제 사고 경험을 통해 취약점을 파악하고 보완하면서 발전한다”며 “새로운 기술에 수반되는 위험은 제한된 범위 안에서 통제하고 기술적 오류는 투명하게 공개하면서 개선책을 마련하는 노력이 필요하다”고 말했다.