[리뷰] 호모 데우스

간단한 소개, 동기, 저자에 관하여

유발 하라리는 사피엔스라는 책으로 일약 스타덤에 오른 역사학자다. 사피엔스는 호모 사피엔스가 어떻게 다른 호모 종들을 제치고 이 세상을 지배하는 종이 되었는지에 대한 그의 충걱적인 가설 및 서사를 들려주는 책이다. 아마도 그의 가설과 서사가 굉장히 그럴듯하고 충격적이었기에 많은 사람들의 공감과 관심을 받지 않았을까 싶다.

호모 데우스는 그런 그가 호모 사피엔스의 다음 단계, 즉 앞으로 펼쳐질 미래 세상에 대한 이야기를 하는 책이다. 흔히들 미래를 알기 위해서는 과거를 알아야 한다는 말을 한다. 과거를 충실히 연구했고 호모 종이 지배종이 될 수 있었던 충격적인 서사를 들려준 그가 바라보는 미래는 어떤지 궁금해서 이 책을 선택하게 되었다.

인상 깊은 내용

오늘날 정설에 따르면 유기체는 알고리즘이고, 알고리즘은 수학 공식으로 표현할 수 있다. 자판기가 차 한 잔을 만들기 위해 밟는 일련의 단계들 그리고 우리의 뇌가 사자의 접근에 촉각을 곤두세울 때 밟는 일련의 단계들을 우리는 숫자와 수학 기호를 사용해 적을 수 있다. 그렇다면, 그리고 의식적 경험들이 어떤 중요한 기능을 한다면, 그 경험들 역시 수학적으로 표현할 수 있어야 한다. 왜냐하면 경험은 알고리즘의 필수적 부분이기 때문이다. ‘두려움 알고리즘’을 적고 ‘두려움’을 일련의 정확한 계산식으로 쪼개면 이렇게 말할 수 있다. ‘계산 과정의 93단계, 바로 이곳이 두려움이라는 주관적 경험이 개입하는 곳이다!’ 하지만 수학이라는 거대한 영역에 주관적 경험을 포함하는 알고리즘이 존재할까? 우리가 알기로 그런 알고리즘은 없다. 수학과 컴퓨터 과학 분야의 방대한 지식을 총동원해봐도, 우리가 창조한 데이터 처리 장치 가운데 그 어떤 것도 작동을 위해 주관적 경험이 필요한 것은 없고, 그 어떤 것도 고통, 쾌락, 분노, 사랑을 느끼지 않는다.

유기체가 알고리즘이고 주관적 경험은 실질적으로 필요 없다는 그의 주장은 파격적으로 들린다. 하지만 많은 최신 연구에 따르면 자유의지가 없다는 진영이 승리하는 것은 맞는 것처럼 보여지고 있다. 우리는 어떤 선택을 의식하기 전에 뇌는 이미 결정을 끝냈으며, 의식은 마치 그 끝낸 결정에 대한 그럴듯한 보충 설명을 해주는 것에 지나지 않는다고 한다. 또한 현재까지는 의식의 존재 자체가 미스테리이긴 하지만 인공지능 기술이 발전하면서 일정 수준의 복잡도를 넘어서는 순간 인공지능에서도 의식이 발현될 것으로 예측하고 있다. 어쨌든 유기체는 알고리즘이라는 정설을 받아들이는 순간 나는 무엇인가라는 생각이 저절로 따라오게 된다. MMORPG 게임 존재하는 NPC와 내가 다를 게 무엇일까?

그러면 구글은 이렇게 대답할 것이다. "나는 네가 태어난 날부터 너를 알고 있었어. 네 이메일을 모두 읽었고, 네 통화를 모두 기록했고, 네가 좋아하는 영화들, 네 유전자 정보, 네 심장 기록도 모두 갖고 있어. 네가 데이트한 정확한 날짜도 보관하고 있으니, 존이나 폴과 만날 때마다 네 심장박동, 혈압, 혈당수치를 초 단위로 기록한 그래프를 원한다면 보여줄 수 있어. 필요하다면 네가 그들과 가진 모든 성관계의 정확한 순위도 제공할 수 있어. 그리고 당연히 나는 너를 아는 것만큼 그들도 잘 알아. 이 모든 정보, 내 뛰어난 알고리즘, 수많은 관계에 대한 수십 년에 걸친 통계자료를 토대로, 나는 너에게 존을 선택하라고 권해. 장기적으로 그와 함께할 때 더 만족스러울 확률이 87퍼센트야."

"나는 너를 잘 아는데, 너는 이 답변이 마음에 들지 않을 거야. 존보다 폴이 훨씬 더 잘생겼지. 너는 외모를 중시하니까, 내가 '폴'이라고 말해주기를 내심 바랐을 거야. 물론 외모는 중요하지. 하지만 네가 생각하는 것만큼은 아니야. 수만 년 전 아프리카 사바나에서 진화한 네 생화학적 알고리즘은 배우자감을 전반적으로 평가할 때 외모에 두는 비중이 35퍼센트야. 하지만 최신 연구와 통계를 바탕으로 하는 내 알고리즘은 외모가 사랑하는 관계에 장기적으로 미치는 영향은 14퍼센트에 불과하다고 말해. 그러니 폴의 외모를 고려한다 해도 네가 존과 함께하는 게 더 낫다고 생각해."

이런 충실한 상담 서비스를 받는 대가로 우리가 포기해야 하는 것은 인간은 분할할 수 없는 존재이며 각 개인은 무엇이 선이고 무엇이 아름다움이고 무엇이 인생의 의미인지 결정할 자유의지를 갖고 있다는 개념뿐이다. 인간은 더 이상 이야기하는 자아가 꾸며내는 이야기들의 지시를 따르는 자율적 실체들이 아니라, 거대한 전 지구적 네트워크의 필수불가결한 일부가 될 것이다.

미래 세계에 대한 그의 묘사 중 일부지만 내용이 다소 충격적인 것과 동시에 몇년 내에 저런 세상이 올지도 모른다는 생각에 굉장히 인상 깊었다. 구글 나우라는 기술은 지금도 켜두기만 하면 내가 자료를 입력하지 않아도 내 회사가 어디있고, 집이 어디있으며, 내가 수요일 저녁 시간에 어떤 공간에 있을 확률이 높고, 내가 좋아하는 음악이 무엇인지 등을 알려준다. 유발 하라리가 전개한 것과 같은 기술은 어쩌면 우리가 개인 정보 동의를 하는 순간부터 계속 진행되고 있는지도 모른다.

과연 저런 세상이 펼쳐졌을때 우리는 인공지능의 선택에 저항할 수 있을까? 내 생각은 쉽지 않다는 생각이다. 왜냐하면 지금도 사람들은 초행길을 갈 때에 아무 생각없이 네비게이션이 우회전을 하라면 믿고 우회전을 하기 때문이다. 심지어 초행길이 아닌 길도 우회전을 하라고 하면 이 길이 더 빨라서 그런가? 하고는 생각없이 우회전을 한다. 주차를 할 때에도 본인의 느낌보다는 센서의 삑삑 소리에 더 의존하고 있다. 이런 세상은 가속화 될 것이고 우리는 점점 더 자유의지가 없는 것 같은 존재가 될지도 모른다. 그 시대가 된다면 과연 나란 무엇인지? 우리의 자유의지가 존재하긴 하는 것인지? 인공지능이 모든 선택을 대체한다면 삶의 의미는 무엇인지가 궁금해지는 대목이다.

코타나가 신탁에서 대리인으로 진화하면 주인들 대신 자기들끼리 직접 이야기하기 시작할 것이다. 처음에는 내 코타나가 당신의 코타나에게 연락해 약속 장소와 시간을 잡는 것과 같은 단순한 일로 시작할 것이다. 하지만 어느 순간 정신을 차리고 보면, 내가 입사 지원한 회사의 인사팀장이 나에게 이력서를 보낼 필요 없이 자신의 코타나가 내 코타나를 면접 볼 수 있도록 해달라고 말한다. 또는 나에게 관심 있는 이성의 코타나가 내 코타나에게 접근해 서로 정보를 교환하며 두 사람이 좋은 짝인지 결정한다. 물론 이 모든 일은 그들의 주인들이 전혀 모르는 상태에서 이루어질 것이다.

코타나가 권한을 얻으면 주인의 이익을 위해 상대의 코타나를 교묘히 조종하기 시작할 것이고, 그 결과 직업시장 또는 결혼시장에서의 성공이 점점 더 코타나의 자질에 따라 판가름날 것이다. 그래서 최신 버전의 코타나를 소유한 부자들은 구버전을 소유한 가난한 사람들보다 결정적 우위를 점할 것이다.

장자의 호접지몽 이야기가 생각나는 대목이다. 나비 꿈을 꾸고 깨어보니 지금이 현실인지, 나비가 꾸는 꿈인지 구분이 되지 않는다는 이야기. 코타나가 대리인이 되는 순간 코타나가 나인지, 내가 코타나인지 구분할 수 있을까? 모든 선택과 결정을 코타나가 한다면 과연 그가 나의 인공지능 비서일까? 내가 그의 아바타일까?

자유주의가 직면한 세 번째 위협은, 일부 사람들은 업그레이드되어 필수불가결한 동시에 해독 불가능한 존재로 남아 소규모 특권집단을 이룰 거라는 점이다. 이런 초인간들은 전대미문의 능력과 전례 없는 창의성을 지닐 것이고, 그런 힘을 이용해 세계적으로 중요한 대다수의 결정들을 계속 내릴 수 있을 것이다. 그들은 시스템의 유지보수를 담당할 것이고, 시스템은 그런 사람들을 이해하고 관리할 수 없을 것이다. 그러나 대부분의 사람들은 업그레이드되지 않을 것이고, 그 결과 컴퓨터 알고리즘과 새로운 초인간 양쪽의 지배를 받는 열등한 계급이 될 것이다.

인간은 항상 계층을 나눠왔다. 누가 힘이 센지와 같은 유전자에 의해서 나누다가, 누구의 아들 딸인지 같은 출신 성분에 의해서 나누다가, 누가 시험을 통과했는지와 같이 능력에 의해서 나누다가, 누가 자본을 더 가졌는지와 같이 돈에 의해서 나누는 등. 문명이 시작된 이후 인간이 실질적으로 평등했던 순간은 없었다는 생각이다. 그의 예측대로라면 그렇다면 앞으로는 시스템을 이해하고 설계할 수 있는 계층과 그렇지 않은 계층으로 나뉘게될까?

첫째, 의학은 중대한 개념적 혁명을 겪고 있는 중이다. 20세기에 의학의 목표는 병에 걸린 사람을 치료하는 것이었다. 하지만 21세기에 의학의 목표는 건강한 사람의 성능을 높이는 쪽(업그레이드)으로 가고 있다. 병든 사람을 치료하는 것은 평등주의적 목표였다. 왜냐하면 모두가 누릴 수 있고 누려야 하는 육체적ㆍ정신적 건강의 표준이 존재한다는 전제에서 출발했기 때문이다. 만약 어떤 사람이 그 표준 밑으로 떨어지면, 문제를 고쳐서 그 사람이 ‘다른 모든 사람들과 같아지게’ 만드는 것이 의사의 본분이었다. 반면 건강한 사람을 업그레이드하는 것은 엘리트주의적 목표이다. 모두에게 적용되는 보편적 표준이라는 개념을 거부하고, 일부 개인들에게 우위를 제공하려는 일이기 때문이다. 사람들은 뛰어난 기억력, 평균 이상의 지능, 최고의 성적 능력을 원한다. 만일 어떤 형태의 업그레이드가 저렴하고 흔해져서 누구나 접근할 수 있는 것이 된다면, 그것이 새로운 기준점이 되어 그것을 능가하는 차세대 치료법이 개발될 것이다.

유전자 가위 기술은 상당히 발전해 있다. 인공지능을 통한 업그레이드가 되지 않더라도 우리가 유전자 코드를 해독하면 할수록 더 뛰어난 유전자 코드를 스스로 만들어 내는 길을 선택할지도 모른다.

읽은 후...

흔히들 미래를 인공지능, 사이보그의 세상이 될 것이라 얘기한다. 그리고 마치 그 세상은 모든 인류가 공통으로 그 혜택을 누리는 판타지 같은 세상일 것이라 얘기한다. 하지만 유발 하라리가 예측한 세상은 그렇지 않았다.

전체적으로 그는 1) 유기체로써의 인간의 진화는 지금이 끝이다. 2) 그 이후 단계는 인공지능과, 사이보그 기술을 이용해 일부 인간들이 초인간으로 업그레이드 될 것이다. 3) 그 초인간들의 업그레이드가 완료되면 기존의 인간들은 더이상 쓸모 없는 잉여 인간이 될 것이다. 4) 그 초인간들 조차도 상당수가 인공지능의 도움으로 스스로 결정할 것이 없는 세상이 될 것이다. 5) 유기체로써의 모든 부분이 제거되고 나면 우주로 나갈 수 있는 진정한 초인간의 시대가 열린다고 말한다.

디스토피아적 미래지만 상당히 그럴듯한 전개라고 생각한다. 엘론 머스크는 벌써 뉴럴 링크를 통해서 뇌에 인공지능 칩을 심는 실험을 하고 있다. 아마 그 실험이 성공적으로 끝난다면 우리는 머지 않아서 영어 기능을 제공하는 칩을 몇 백 달러에 사게 될지도 모른다. 그리고 각종 기능들이 칩으로 제공될 것이고 그것은 점점 더 그 칩을 가진 사람들과 못 가진 사람들의 격차를 벌리게 될 것이다. 이렇게 초인간과 불필요한 인간으로 나뉘는 세상이 오게 된다면 우리는 어떻게 대처해야 할까? 아직 그런 세상이 오지 않았고 내가 사는 기간 동안에는 안전할 것 같으니 괜찮은 것일까? 아니면 어떻게든 아등바등 그 초인간의 무리에 끼기 위해서 달려야 하는 것일까?

미래에 대한 선명한 지도같은 책이었지만 역설적이게도 이 책은 나에게 엄청난 질문 덩어리만 안겨준 책이었다. 그리고 그 중간에는 사람, 인간이 있었다. 과연 그 수많은 잉여 인간의 존재 가치는 무엇이 될까?

당신의 생각은?

• 유기체로써의 진화가 지금이 끝일지와 이유. 유전자 가위 vs 사이보그
• 초인간으로 진화되어 인간이 두 부류로 나뉘게될지와 이유.
• 저자의 생각대로 인간이 자체적으로 업그레이드해서 초인간이 된다고 했을 때 잉여 인간은 생존할까? 또 존재 가치는?
• 텍스트에 나온 존과 폴 중 인공지능의 선택대로 존을 선택할까? 아니면 마음이 끌리는 잘생긴 폴을 선택할까?
• 인공지능이 복잡한 의사 결정의 상당수를 대체한다고 했을때 인간의 존재가치는? 그리고 지금 현재 상태에서 자유의지가 있다고 믿는지? 아닌지? 그 이유는?
• 대체로 이런 이야기 끝에 불멸의 존재가 되기 위해 전뇌화, 또는 마인드 업로딩으로 불리는 뇌를 네트워크에 업로드 하는 이야기가 나온다. 만약 본인이 그런 업로드를 통해 영생을 누릴 수 있다면 업로드 할지 말지와 그 이유.
• 미래 방향 예측의 큰 갈래가 인간이 우주로 확장할 것이다와 메타버스 세계로 확장할 것이다로 나뉜다. 둘중 어떤 세상으로 확장할 가능성이 크다고 생각하는지와 그 이유.