[동아광장/이광형]인공지능이 인간을 지배 못하는 이유

인간에 충직한 컴퓨터 프로그램
사회불만 갖고 테러 시도할 수도… AI가 지구지배 위해 도전 나설까
인간은 언어로 사회를 만들지만 AI는 우리처럼 조직화 못한다
유발 하라리 “사피엔스 종말” 예견… 그와 대담한 나는 “AI 한계 확신”

이광형 객원논설위원 KAIST 바이오및뇌공학과 교수

알파고 이후에 인공지능(AI)에 대한 관심과 우려가 많다. 그중에는 결국 AI가 인간을 지배하는 날이 올 것이라는 공포심도 있다. 과연 AI가 인간을 지배하는 날이 올 것인가? AI의 발전 5단계를 살펴본 후에, 인간과 AI의 세 가지 관계에 대해 따져보자.

AI의 발전은 다섯 단계로 이루어질 것으로 예상된다. 첫 번째 단계는 ‘단순 AI’다. 이것은 현재의 AI로 인간에게 충직한 컴퓨터 프로그램이다. 두 번째 단계는 ‘연결 AI’다. 모든 사물이 인터넷으로 연결되는 시대가 코앞으로 다가왔다. 인간 사이를 연결하던 인터넷이 사물 사이를 연결하면 매우 큰 변화가 일어날 것이다. 여기에 AI도 예외가 아니다. AI가 서로 연결돼 상호 정보를 주고받으며 협동한다.

세 번째 단계는 ‘감성 AI’다. AI가 감성을 가진 것처럼 행동하는 것이다. 기쁘고 슬프고 고통스러운 감정이 있는 것처럼 보인다. 그러나 아직 AI는 ‘자아’가 없다. 겉으로는 감정이 있는 것처럼 행동하지만 스스로는 그것을 인지하는 능력이 없다. 작년 일본에서 시판된 페퍼 로봇이 좋은 예다. 페퍼는 인간의 말을 알아듣고 반가운 목소리로 답을 한다. 그러나 영혼이 없는 기계일 뿐이다.

네 번째 단계는 영혼을 가진 ‘자아 AI’다. AI가 자신의 존재를 인식하며 기쁨과 슬픔을 느끼는 단계다. 즉 동물과 같이 자신의 존재를 알고 감정을 느끼고 표현한다. 이 단계의 AI는 이미 인간의 지적 능력을 추월한 상태다. 인간은 AI를 함께 삶을 영위하는 동반자로 대접하고 있을 것이다. 그러면 인간은 AI가 자아를 가졌는지 어떻게 알 수 있을까? 나는 만약 AI가 스스로 켜지고 꺼진다면 자아를 가졌다는 증거가 아닐까 생각한다. 여기서 정의한 ‘자아 AI’가 출현하리라는 과학적인 증거는 없다. 하지만 과학기술이 항상 예측한 방향으로만 발전하는 것은 아니기 때문에 상상을 해볼 수는 있다고 생각한다.

마지막 다섯 번째 단계는 ‘조직화 AI’다. 자아를 가진 AI들이 인간 세계처럼 조직화된 사회를 형성하는 단계다. 유발 하라리 같은 역사학자들은 인간이 수만 년 전부터 언어를 사용할 수 있었기 때문에 조직화된 사회를 구축할 수 있었다고 말한다. 어떤 똑똑한 인간은 자신이 특수한 존재임을 부각시키는 신화나 전설을 만들어 퍼뜨렸다. 허구인 신화를 믿는 사람이 늘어났고 그 조직은 부족국가로 발전해 갔다. 하나의 조직에는 최고 통치자 외에 수많은 중간 계급과 복종하는 하층 계급이 만들어졌다. 인간은 허구인 신화를 사실처럼 믿고 복종하게 만드는 고급 언어를 가졌던 것이다.

문제는 AI가 허구를 만들어 국가를 만들 수 있는 언어능력을 가질 수 있느냐다. 나는 AI 스스로 신화를 만들어 대규모 세력을 규합하기는 불가능할 것이라고 생각한다. 설사 그런 시도를 한다고 해도, 지구의 기득권자인 인간이 방치하지 않을 것이다.

이제 인간과 AI의 세 가지 관계에 대해 알아보자. 첫 번째는 ‘종속 관계’다. 앞서 정의한 단순 AI, 연결 AI, 감성 AI가 여기에 속한다. AI는 충직한 기계로서 인간을 위해 많은 일을 한다. AI의 역할이 커진 만큼 대형 사고의 가능성도 있다. 이런 사고는 AI가 의도한 것은 아니고 단순한 기계 오류 또는 인간의 실수에 의한 것이다.

두 번째는 ‘도전 관계’다. 앞서 정의한 자아 AI가 나타나면 인간과 AI는 지구상에서 공생하고 있을 것이다. 하지만 인간에 대해 불만을 가진 AI들도 생길 것이고 이들은 도전을 시도할 것이다. 그러나 그 규모는 크지 않을 것이다. 조직화 능력이 없기 때문이다. 아마 파업이나 테러 수준이 될 것이다. 가끔 AI 테러가 일어나겠지만 인간의 현대문명이 위협받는 수준은 아니다.

마지막 세 번째는 ‘지배 관계’다. AI가 인간을 지배하는 것이다. 이를 위해서는 조직화 AI가 나타나야 한다. 앞서 살펴봤듯이 AI는 대규모 조직을 형성하지 못할 것이다. 특히 현대문명을 무너뜨리고 새로운 지구의 정복자가 되기 위해서는 수천만 또는 수억 명으로 조직화된 현대국가와 싸워 이겨야 한다.

이달 26일 ‘사피엔스’의 저자인 유발 하라리 교수를 만났다. 호모사피엔스의 종말을 예견하는 그와의 대담을 통해 역설적으로 AI의 한계를 더욱 확신하게 됐다. 논리적으로 따져보면 공포심은 불필요한 것이라는 점을 알게 된다.

이광형 객원논설위원 KAIST 바이오및뇌공학과 교수