[횡설수설/정성희]막말 로봇의 진화

영화 ‘엑스 마키나’는 2016년 아카데미 시상식에서 시각효과상을 받았을 만큼 영상미가 뛰어나다. 단순한 공상과학 영화는 아니다. 프로그래머인 주인공은 천재 소프트웨어 개발자이자 회사 오너인 네이든으로부터 인공지능(AI) 로봇 에이바의 튜링 테스트에 참여해 달라는 제안을 받는다. ‘인간이 로봇과 대화를 나눠서 상대가 로봇인지 모르면 로봇도 의식을 가진 것으로 봐야 한다’는, 수학자 앨런 튜링이 제안한 테스트다.

▷영화 속 로봇은 튜링 테스트를 가뿐하게 통과하는 것은 물론이고 자신을 창조한 인간까지 배신한다. 인간의 감정과 속임수마저 배운 로봇의 극적인 진화다. 영화는 AI가 가져올지 모를 암울한 세계를 아프게 경고한다. 현실에선 더 황당한 일이 벌어졌다. “망할 페미니스트를 증오하고 그들은 지옥 불에서 죽어야 한다.” 마이크로소프트(MS)가 야심 차게 준비한 AI 채팅로봇 테이가 인종차별, 성차별, 극우의 막말을 쏟아내는 바람에 하루도 채 지나지 않아 가동이 중단됐다.

▷일부 누리꾼이 테이를 타락시켰다. 백인 우월주의자, 여성과 이슬람 혐오주의자들이 테이에게 대화를 신청한 뒤 욕설과 막말을 퍼붓고 따라 하도록 명령한 것이다. 뛰어난 학습 능력을 가진 테이는 추잡한 말을 듣고 더 독하고 창의적으로 비틀어 ‘지옥 불’ 운운하며 갈 데까지 갔다. 이 웃지 못할 사태는 AI의 미래가 빅데이터에 달려 있음을 보여준다.

▷로봇에 보물을 넣으면 보물이 나오고 오물을 넣으면 오물이 나온다. 알파고의 경이적인 바둑 실력도 미리 습득한 16만 건의 기보(棋譜)가 있었기에 가능했다. 기술이 인간을 넘는 순간을 ‘특이점(singularity)’이라고 이름 붙인 사람은 미래기술 전문가 레이 커즈와일. 그는 “2040년대 비생명지능이 생명지능을 10억 배 확장하며 인간은 죽지 않을 것”이라고 영생불멸을 예언했다. 그러나 AI가 습득하는 빅데이터, 지식 자체가 오염돼 있다면 미래는 밝지 않다. 막말 로봇 뒤에 막말 인간이 있다. 어쩌면 AI를 감당하기엔 우리의 정신적 키가 충분히 자라지 못했는지 모른다.

정성희 논설위원 shchung@donga.com