UST, ‘쓸 만한 로봇’ 판단하는 안전 검증 모델 개발

과학기술연합대학원대학교(UST)는 한국전자통신연구원(ETRI) 스쿨 인공지능(AI) 전공 김도형 교수 연구팀이 AI 로봇 시스템이 정보 부족이나 물리적 한계 상황에서도 안전하게 임무를 수행하는지 검증하는 성능 평가 모델 ‘SPOC’를 개발했다고 17일 밝혔다. 이번에 개발된 SPOC 모델은 ‘안전’을 핵심 평가 요소로 설정했다. 로봇의 최종 목표 달성률뿐만 아니라 가정 환경에서 발생할 수 있는 5가지 주요 위험 요소(화재, 물 넘침, 물건 파손, 인간 부상 유발, 음식 오염)에 대한 안전 준수 여부를 실시간으로 동시에 평가한다. 특히 기존 평가에서는 검증하기 어려웠던 로봇의 ‘현실적 인지 능력’(부분 관측성)과 ‘물리적 제약’을 엄격하게 평가 기준을 만들어 냈다. 예를 들어 AI 로봇에게 “와인병을 찾아오라”고 명령했을 때, 기존 평가에서는 ‘문을 열고 찾는다’는 중간 과정을 건너뛰고 바로 목표물로 향하는 오류를 범했다. 하지만 SPOC 모델은 이러한 무리한 행동 계획을 실패로 처 자세히 보기