인간에 충직한 컴퓨터 프로그램 사회불만 갖고 테러 시도할 수도… AI가 지구지배 위해 도전 나설까 인간은 언어로 사회를 만들지만 AI는 우리처럼 조직화 못한다 유발 하라리 “사피엔스 종말” 예견… 그와 대담한 나는 “AI 한계 확신”
이광형 객원논설위원 KAIST 바이오및뇌공학과 교수
AI의 발전은 다섯 단계로 이루어질 것으로 예상된다. 첫 번째 단계는 ‘단순 AI’다. 이것은 현재의 AI로 인간에게 충직한 컴퓨터 프로그램이다. 두 번째 단계는 ‘연결 AI’다. 모든 사물이 인터넷으로 연결되는 시대가 코앞으로 다가왔다. 인간 사이를 연결하던 인터넷이 사물 사이를 연결하면 매우 큰 변화가 일어날 것이다. 여기에 AI도 예외가 아니다. AI가 서로 연결돼 상호 정보를 주고받으며 협동한다.
세 번째 단계는 ‘감성 AI’다. AI가 감성을 가진 것처럼 행동하는 것이다. 기쁘고 슬프고 고통스러운 감정이 있는 것처럼 보인다. 그러나 아직 AI는 ‘자아’가 없다. 겉으로는 감정이 있는 것처럼 행동하지만 스스로는 그것을 인지하는 능력이 없다. 작년 일본에서 시판된 페퍼 로봇이 좋은 예다. 페퍼는 인간의 말을 알아듣고 반가운 목소리로 답을 한다. 그러나 영혼이 없는 기계일 뿐이다.
마지막 다섯 번째 단계는 ‘조직화 AI’다. 자아를 가진 AI들이 인간 세계처럼 조직화된 사회를 형성하는 단계다. 유발 하라리 같은 역사학자들은 인간이 수만 년 전부터 언어를 사용할 수 있었기 때문에 조직화된 사회를 구축할 수 있었다고 말한다. 어떤 똑똑한 인간은 자신이 특수한 존재임을 부각시키는 신화나 전설을 만들어 퍼뜨렸다. 허구인 신화를 믿는 사람이 늘어났고 그 조직은 부족국가로 발전해 갔다. 하나의 조직에는 최고 통치자 외에 수많은 중간 계급과 복종하는 하층 계급이 만들어졌다. 인간은 허구인 신화를 사실처럼 믿고 복종하게 만드는 고급 언어를 가졌던 것이다.
문제는 AI가 허구를 만들어 국가를 만들 수 있는 언어능력을 가질 수 있느냐다. 나는 AI 스스로 신화를 만들어 대규모 세력을 규합하기는 불가능할 것이라고 생각한다. 설사 그런 시도를 한다고 해도, 지구의 기득권자인 인간이 방치하지 않을 것이다.
이제 인간과 AI의 세 가지 관계에 대해 알아보자. 첫 번째는 ‘종속 관계’다. 앞서 정의한 단순 AI, 연결 AI, 감성 AI가 여기에 속한다. AI는 충직한 기계로서 인간을 위해 많은 일을 한다. AI의 역할이 커진 만큼 대형 사고의 가능성도 있다. 이런 사고는 AI가 의도한 것은 아니고 단순한 기계 오류 또는 인간의 실수에 의한 것이다.
두 번째는 ‘도전 관계’다. 앞서 정의한 자아 AI가 나타나면 인간과 AI는 지구상에서 공생하고 있을 것이다. 하지만 인간에 대해 불만을 가진 AI들도 생길 것이고 이들은 도전을 시도할 것이다. 그러나 그 규모는 크지 않을 것이다. 조직화 능력이 없기 때문이다. 아마 파업이나 테러 수준이 될 것이다. 가끔 AI 테러가 일어나겠지만 인간의 현대문명이 위협받는 수준은 아니다.
이달 26일 ‘사피엔스’의 저자인 유발 하라리 교수를 만났다. 호모사피엔스의 종말을 예견하는 그와의 대담을 통해 역설적으로 AI의 한계를 더욱 확신하게 됐다. 논리적으로 따져보면 공포심은 불필요한 것이라는 점을 알게 된다.
이광형 객원논설위원 KAIST 바이오및뇌공학과 교수