군사용 개발로 ‘로봇의 공격금지’ 수칙 이미 깨져

자유의지 로봇 40년뒤엔 가능… 공생 윤리헌장 필요

○ 로봇 조종해 인간공격 가장 문제

전문가들이 예상한 첫 번째 전쟁 시나리오. 영화처럼 고도의 인공지능을 갖춘 로봇이 자유 의지를 갖고 고의로 인간을 공격하는 것이다. 그러나 전문가들은 “인공지능이 자유 의지를 갖는 것은 2050년 이후에나 가능할 것”이라며 걱정하기엔 아직 이르다고 말했다.

문제는 두 번째 시나리오, 즉 악당이 로봇을 조작해 인간을 공격하는 것이다. 로봇의 인공지능은 인간을 공격하지 않도록 만들어졌지만 해커가 인공지능을 해킹하면 인간을 공격하는 로봇을 만들 수 있다. 특히 미래에 로봇이 대량으로 팔리고 해커가 이 로봇의 인공지능을 해킹하는 방법을 알아내 인터넷에 퍼뜨리면 대재앙이 일어날 수 있다.

이성환 고려대 컴퓨터통신공학부 교수는 “로봇 해킹은 컴퓨터 해킹과 비슷하다”며 “해커들이 인공지능의 ‘보안 취약 지역’을 찾아 불법으로 프로그램을 수정할 수 있는 해킹 프로그램을 만들어 퍼뜨릴 수 있다”고 우려했다. 김대원 명지대 정보공학과 교수는 “이 같은 사태를 막으려면 인공지능이 해킹을 당할 경우 스스로 삭제(포맷)하도록 법으로 규정하거나 로봇 해커를 더 강력히 처벌할 필요가 있다”고 말했다.

○ 윤리의식-로봇 기술 조화가 최상

이처럼 로봇과 인간의 대립을 막고 로봇의 안전한 사용을 위해 국내에서도 지난해 기초적인 형태의 로봇윤리헌장이 만들어졌다. 지난해 6월 나온 로봇윤리헌장 초안에는 ‘제조자는 설계와 다르게 로봇을 개조해선 안 되며 재활용할 때는 기존에 저장된 자료를 반드시 삭제할 것’ 등의 기초적인 규칙이 들어 있다. 이번에 발족한 연구위원회는 깊은 연구를 통해 누구나 공감할 수 있고 미래를 지향하며 혁신적인 로봇윤리헌장을 새로 만들 계획이다.

위원회에 참가한 전문가들은 로봇윤리헌장이 꿈꾸는 두 가지 미래를 소개했다. 먼저 인간은 로봇을 만들고 로봇은 인간이 편하게 살도록 돕는 세상이다. 아스팩미래기술경영연구소 차원용 소장은 “가장 가능성이 높은 시나리오”라며 “로봇은 인간과 동격이 아니라 협력자나 공존자로 한 단계 낮은 존재지만 존중받아야 한다는 점은 변함이 없다”고 말했다. 인간이 로봇에게 정중히 대할 때 인간의 존엄성도 지켜지기 때문이다.

‘로봇 학대’의 대표적인 사례가 일본에서 만든 강아지 로봇이다. 이 로봇은 살아 있는 강아지처럼 인간의 태도에 따라 감정을 표현한다. 그러나 강아지가 가끔 반응하지 않고 오동작을 일으키자 어린이들은 거리낌 없이 폭력을 행사했고 이를 본 부모가 불매운동을 벌였다.

두 번째 시나리오는 로봇이 인간처럼 자유 의지를 가진 새로운 종으로 발전하는 것이다. ‘로보사피엔스’라고 불리는 이런 로봇은 인간과 비슷한 가치관과 행동양식, 인공지능을 갖고 인간처럼 살게 된다. 인간과도 자연스럽게 어울린다. 그러나 위원장을 맡은 이중원 서울시립대 철학과 교수는 “로보사피엔스는 수십 년 안에 등장하기 어려워 현 시점에서 논의하지 않기로 의견을 모았다”고 밝혔다.

○ 2012년경 윤리헌장 완성-발표

위원회의 한 관계자는 “로봇이 사라진다는 마지막 시나리오도 있다”고 밝혔다. 로봇 때문에 직장을 잃는 사람이 늘어나 세계적으로 경제위기가 일어나고 로봇 개발이 중지되는 것이다. 그는 “이를 고려해 ‘로봇 때문에 생긴 시간은 창조적이거나 생산적인 일에 사용한다’는 조항을 로봇윤리헌장에 넣을 예정”이라고 말했다.

아이로니컬하게도 로봇과 인간의 관계를 규정할 때 가장 많이 인용됐던 로봇 3원칙은 정작 로봇윤리헌장에는 배제될 것으로 전망된다. SF 작가 아이작 아시모프가 만든 로봇 3원칙은 ‘사람에 대한 공격 금지’, ‘명령 복종’, ‘로봇의 권리 인정’을 주내용으로 하고 있지만 이미 군사용 로봇이 개발된 상황에서 무의미해졌다. 김대원 교수는 “로봇과 인간이 공생하며 로봇산업도 키울 수 있는 로봇윤리헌장을 제정할 계획”이라고 밝혔다.

전동혁 동아사이언스 기자 jermes@donga.com