인도 뭄바이에서 이슬람 테러리스트들이 무고한 사람들을 학살한 사건은 사람의 마음에 대한 우리의 믿음을 다시 흔들었다. ‘9.11 참사’에서와 마찬가지로, 이번에도 테러리스트들은 되도록 많은 사람들을 가장 충격적인 방식으로 죽이려고 간지를 짜냈다. 사람을 사람답게 하는 재능이 나쁜 데 쓰이는 것처럼 우리를 절망적으로 만드는 것은 없다.

물론 그들이 저지른 죄악은 압제적 권력들이 저지른 죄악보다 규모에서 훨씬 작다. 히틀러, 스탈린, 마오쩌뚱과 같은 전체주의 지도자들은 몇 천만 명의 목숨을 앗았다. 그래도 테러리스트들의 만행은 우리 마음에 매번 큰 충격을 준다. 테러리스트들이 보통 사람들이므로, 그들의 사악한 행위가 사람의 본성에서 직접 나왔다는 점이 부각되기 때문일 것이다.

그러나 테러리스트들은 자신들의 행위들이 정당하다고 확신한다. 무고한 사람들을 죽이는 일은 객관적으로 사악하다. 그러나 테러리스트들은 자신들이 추구하는 가치가 그런 사악함을 충분히 정당화할 만큼 크다고 믿는다. 아무리 사악하더라도, 그들의 행위는 나름의 논리에 바탕을 두었다. 따라서 이 문제의 핵심은 사람의 판단이 틀릴 가능성(fallibility)이다. 판단의 옳고 그름을 판별할 기준이 존재하지 않는다는 사실은 상황을 근본적으로 어렵게 만든다.

이런 사정은 물론 정치 분야에서만 나오는 것은 아니다. 이번에 갑자기 닥친 경제 위기는 사람들의 절대적 신임을 얻어 ‘현인(賢人)’ 대접을 받는 사람들도 자주 그른 판단을 내린다는 것을 괴롭게 일깨워주었다. 이번 위기의 진원인 미국의 경우, 물가 관리를 맡은 중앙은행 책임자들은 통화 정책을 잘못 펴서 자산 거품(asset bubble)이 일도록 했다.

이처럼 곤혹스러운 문제에 대처할 길은 마땅치 않다. 사람의 판단이 틀릴 가능성이 높은데도 사람마다 자신의 판단이 옳다고 여기는 상황은 사람의 본성이 바뀌지 않는 한 바뀌지 않을 것이다. 그러나 사람의 본성은 짧은 시간에 바뀌지 않는다. 몇십억 년 동안 자연 선택을 통해서 다듬어진 터라, 사람의 본성은 생각보다 단단하다.

현재 실질적 조치들 가운데 가장 효과적인 것은 사람의 판단을 되도록 인공지능(AI)의 판단으로 대체하는 것이다. 인공지능은 사람들이 어쩔 수 없이 보이는 본능적 행태, 감정적 판단, 이기적 고려, 그리고 정치적 영향으로부터 자유롭다. 따라서 사람의 판단이 어려운 분야들에서 인공지능이 사람을 대신해서 판단하도록 하는 방안은 합리적이고 실제적이다.

미국 경제학자 밀턴 프리드먼(Milton Friedman)은 이런 방안을 먼저 주창한 사람들 가운데 하나다. 그는 필연적으로 정치적 영향을 받는 통화정책의 문제를 지적하면서, 차라리 통화량을 개인들의 판단이 아닌 규칙에 따라 조절하고 그런 방안의 관리를 컴퓨터 프로그램에 맡기자고 제안했다.

그 뒤로 전문가 체계(expert system)라 불리는 컴퓨터 프로그램들이 여러 분야들에서 나와서 사람의 지능을 보완하기 시작했다. 지금 진료와 법률 판단을 위한 전문가 체계들은 의사들과 법관들이 꼭 참고해야 하는 도구들이 되었다.

이런 추세에서 뜻있는 발전으로 꼽힐 일이 요즈음 추진되고 있다. 미국 육군은 자율적 판단을 할 수 있는 지능 로봇(intelligent robot)을 개발하고 있다. 그런 로봇을 개발하려는 목적은 좀 뜻밖이다.

전투에 나선 병사들의 마음은 두려움, 분노, 복수심과 같은 감정들로 들끓는다. 그래서 병사들은 지나치게 공격적이 되어 제네바 협약(Geneva Convention)이나 교전 수칙과 같은 규율들을 어기는 경우가 많다. 드물지 않게, 적군만이 아니라 민간인들에게도 해를 입힌다.

만일 자율적 판단을 할 수 있는 로봇이 개발된다면, 감정에 판단이 흐려지지 않으므로, 전투 상황에서 훨씬 인도적으로 싸울 수 있을 것이다. 이 개발 사업을 맡은 미국 컴퓨터 공학자 로널드 아킨(Ronald Arkin)은 “나의 연구 가설은 지능 로봇들이 싸움터에서 지금 사람들이 할 수 있는 것보다 더 윤리적으로 행동할 수 있다는 것이다.”라고 말한다.

이처럼 자율적 판단에 따라 행동하는 로봇은 진정한 로봇에 아주 가까운 존재일 것이다. 공장에서 단순한 일들을 기계적으로 반복하는 ‘산업용 로봇’과는 본질적으로 다를 것이다.

이런 자율적 로봇의 출현은 사람 마음의 노후화(obsolescence)를 가속화할 것이다. 이미 전문가 체계들은 사람의 판단을 점점 많이 대치해왔다. 사람 몸은 물론 오래 전에 기계에 의해 거의 대치되었다. 생산 활동에서 사람의 근육이 차지하는 몫은 기계의 몫에 비기면, 아주 미미하다.

앞으로 로봇은 인류에게 호의적이고 도움이 되는 존재로 진화할 가능성이 높다. 로봇을 만들고 발전시키는 것은 사람들이므로, 인류에게 좋은 특질들은 선택되고 해로운 특질들은 제거될 것이다. 이런 과정은 사람들이 가축을 길들이고 개량해온 과정과 본질적으로 같다. 사람이 맨 먼저 길들여서 가장 오래 공존해온 개의 진화는 로봇의 진화가 할 모습을 보여준다고 할 수도 있다.

그렇게 되면, 인류와 로봇이 함께 살면서 공진화(coevolution)할 가능성이 높다. 로봇의 능력이 향상되면서, 로봇이 점점 많은 일들을 맡게 될 것이다.

특히, 외계의 탐험에선 로봇의 능력이 워낙 뛰어나서, 인류의 역할은 부차적이 될 터이다. 현재 상상할 수 있는 기술로는 인류가 다른 행성으로 이주하기 어렵다. 로봇들은 그런 이주가 가능하며, 다른 별들에서 가져간 인류에 관한 정보를 바탕으로 인류를 재생할 수 있을 것이다. 외계의 탐험은 인류에게 열린 ‘마지막 변경(final frontier)’이므로, 길게 보면, 인류의 생존과 확산은 인류와 로봇의 성공적 공진화에 크게 달렸다고 할 수 있다.

복거일(사회평론가, 소설가)