누가 물밑에서 시장을 움직이고 사회의 구조를 바꾸는가?

전 세계적 베스트셀러 《신호와 소음The Signal and the Noise》에서 ‘소음이 가득한 세상에서 의미 있는 신호를 찾는 법’을 제안한 통계 분석 전문가이자 정치분석가 네이트 실버가 10여 년 만에 두 번째 책 《리스크테이커》(원제: On the Edge)로 돌아왔다.
이 시의적절하고 흥미로운 책에서 실버는 특유의 사고방식과 고도의 위험 감수 능력으로 현대 사회의 많은 부분을 형성하고 지배하는 사람들의 공동체를 ‘강river’이라고 지칭한다.
그리고 포커 플레이어, 헤지펀드 매니저, 암호화폐 신봉자, 블루칩 아트 수집가로 대표되는 프로 위험감수자들과의 심층 인터뷰에 실버 특유의 통찰을 더해 불확실한 21세기의 안개 속에서 길을 찾는 법을 가르쳐준다.


이 책에서는 내 뿌리로 돌아가려 한다.
나는 지난 3년을 주로 내가 ‘강River’이라고 부르는 세상에 빠져서 살았다.
강은 생각이 비슷한 사람들이 모인 생태계로 지금도 확장 중이다.
그 구성원은 소액 포커로 생활비를 벌려고 애쓰는 프로 플레이어부터 암호화폐왕과 벤처캐피털 억만장자까지 다양하다.
강은 곧 사고방식이자 삶의 방식이다.
사람들은 강을 잘 모르지만 이제는 알아야 한다.


강사람Riverian 중 대부분은 부유한 권력자가 아니다.
하지만 부유한 권력자 중에서 강사람의 비중은 그 외 사람들 중에서 강사람의 비중보다 훨씬 높다.
_‘프롤로그.
동기’

강사람들이 얼마나 경쟁심이 강한지 기억하는가? 강사람들은 마을사람들이 기회의 평등이 아닌 결과의 평등에 점점 더 무게를 실으면서 경쟁을 말살한다고 걱정한다.
강사람 중 대부분은 자유시장이 중앙의 계획자들보다 승자와 패자를 잘 구별한다는 자본주의의 전통적 신념을 견지하고 있다.
더 나아가 시장 경쟁이 기술 혁신, 경제 성장, 삶의 질 향상으로 이어지기 때문에 사회 전체에 이롭다고 믿는다.
반대로 마을이 능력주의 원칙에서 이탈한 사례도 줄줄 읊는다.

---「0장.
서문」중에서

우선은 확률적으로 사고하는 법을 배우면 좋겠다.
내 첫 책 《신호와 소음The Signal and the Noise》의 요지는 확률론적 예측이 자만의 발로가 아니라 겸손의 발로라는 것이었다.
세상은 복잡하다.
조그만 파동이 커다란 변화로 이어질 수 있다.
(중략)

포커를 수천 핸드 치거나, 자신의 돈이 걸린 스포츠 경기를 수백 회 보거나, 스타트업 수십 개에 투자해보면 운명의 변덕과 세상에 관한 우리의 불확실한 지식 때문에 뭔가를 예측할 때 적중은 고사하고 얼추 맞히는 것조차 어렵다는 것을 알 수 있다.
대부분의 경우에는 확률을 계산하는 게 그나마 최선이다.

---「0장.
서문」중에서

끝으로 1776장 기초에서는 주체성, 다수성, 상호성이라는 3대 원칙을 설명한다.
이 원칙들은 강의 가장 견고한 가치관이 자유민주주의와 시장경제를 태동시킨 18세기의 사상과 결합된 결과다.
나는 이 3대 원칙이 지금처럼 우리 문명이 위험에 처한 시기를, 다시 말해 모든 사람이 원하든 원하지 않든 삶을 판돈으로 걸어버린 이 ‘게임’을 잘 헤쳐나가기 위해 꼭 필요하다고 주장할 것이다.

---「0장.
서문」중에서

EV극대화자는 도박과 투자를 포함해 인생의 다양한 영역에서 분석력과 전략성을 발휘함으로써 주어진 상황에서 최적의 ‘플레이’를 계산하려고 한다.
만일 다른 사람들도 모두 제대로 플레이하고 있다면 나는 어떻게 플레이해야 하는가? 물론 사람들이 항상 최적의 전략을 쓰지는 않고 합리적 전략조차 못 쓸 때가 많다.
하지만 나는 남들의 실력을 어느 정도 인정해주는 것이 그들을 비플레이어 캐릭터nonplayer character, 줄여서 NPC로 취급하는 것보다 좋은 자세라고 생각한다.
(중략)

상대가 최고의 기량을 발휘할 때 잘 맞설 수 있다면 사실상 어떤 게임에서든 승자가 될 것이다.
하지만 자기보다 못한 사람의 허점을 악용하는 쪽으로 전략을 수립한다면 그 특정하고 협소한 상황에서 벗어나서는 그 전략이 승리 전략이 될 가능성이 별로 없다.

---「1장.
최적화」중에서

전략의 무작위화randomize는 포커를 넘어 게임이론의 필수 요소다.
예를 들어 게임이론에 상호확증파괴mutually assured destruction라는 개념이 있다.
그 골자는 완전히 무장한 핵보유국 간에는 전쟁이 일어나면 공멸이 자명하므로 전쟁이 발발할 가능성이 작다는 것이다.
상호확증파괴에서 중요한 요소 중 하나가 경제학자 토머스 셸링Thomas Schelling이 말한 “어떤 것을 운에 맡기는 위협”이다.
쉽게 말해 전쟁이 터지면 무슨 일이 벌어질지 모르니까 괜히 상대를 건드리지 않는 게 좋다는 의미다.

---「1장.
최적화」중에서

2022년에 벌랜더는 마흔이 다 된 나이에도 직구로는 리그를 통틀어 3위라는 기량을 뽐냈다.
반면에 변화구(슬라이더와 커브)는 평균을 약간 웃도는 수준이다.
하지만 벌랜더가 직구를 던지는 빈도는 50퍼센트 정도밖에 안 된다.
왜 그럴까? 그야 메이저리그 타자들의 실력이 좋으니까.
벌랜더의 직구가 어려운 공이기는 하지만 직구가 날아오는 것을 알면 한결 치기 쉬워진다.
(중략)

중요한 점은 만일 베츠가 올바른 조합을 이용한다면 직구와 커브의 타율이 ‘똑같이’ 0.252가 된다는 사실이다.
이것을 정확한 용어로 표현하면 베츠가 벌랜더를 구종에 ‘무차별indifferent’해지게 만든다고 말한다.
직구와 커브의 기댓값이 서로 같아진다는 뜻이다.
그래서 투수도 포커 플레이어처럼 무작위로 구종을 선택하는 편이 정말로 더 나을 때가 있다.

---「1장.
최적화」중에서

만일 트레이더 또는 포커 플레이어를 AI 시스템으로 대체해서 이 찜찜한 신체의 화학작용을 걱정하지 않아도 된다면 어떨까?

별로 좋은 생각은 아닌 것 같다.
우리는 신체에서 많은 피드백을 받는다.
그래서 인간의 몸이 없는 AI는 인간과 같은 지성을 갖기 어렵다고 보는 전문가들도 있다.
실제로 코츠의 연구에서 가장 성공한 트레이더들은 위험을 맞닥뜨렸을 때 신체의 화학작용에 ‘더 큰’ 변화가 일어났다.
“가장 유능한 트레이더들에게서 그런 현상이 발견됐습니다.
내가 처음에 예상한 것과 정반대로 내분비 반응이 나타난 거죠.
흔히들 평정을 잘 유지하는 사람은 위험을 감수할 때 생리반응이 아주 조용할 거라고 생각할 겁니다.
그런데 사실은 그 반대예요.”
---「2장.
인식」중에서

어떻게 하면 “꾸준히 우연한 기회를 접하”는 것을 더욱 늘릴 수 있을까? 이것은 사실 사후여지성을 다르게 표현한 말이다.
다시 말해 나중에 선택의 여지가 더 커지는 쪽을 선택하는 것을 뜻한다.
나라면 EV극대화라고 부르겠다.
하지만 자기계발서식으로 표현하면 이렇게 될 것이다.
문이 더 많이 달린 복도를 선택하면 열린 문을 발견할 가능성이 더 커진다.

---「2장.
인식」중에서

포커에서 다른 사람의 허점을 악용하려면 자신도 똑같이 당할 위험을 각오해야 한다.
그래서 통상적으로 포커 플레이어들은 상대도 최선의 플레이를 도모한다고 가정하고 추상적 차원에서 무엇이 올바른 플레이인지 고민한다.

---「2장.
인식」중에서

카지노는 당첨금이 지급되는 방식, 다시 말해 기계의 확률분포도 마음대로 바꿀 수 있다.
손님들은 자신의 위험수용도에 가장 부합하는 패턴, 또는 자신의 오즈 감각을 가장 많이 자극하는 패턴에 자연스럽게 끌린다.

---「3장.
소비」중에서

불가리스의 베팅 스타일은 스팽키의 상향식/하향식 분류법에 딱 들어맞지 않는다.
불가리스는 주로 앵글angle[남다른 안목으로 확보하는 에지]을 찾는다.
그는 기본적으로 카스테욘처럼 숨은 원석을 탐색한다.
다시 말해 큰 수익이 날 가능성이 있지만 왠지 시장에서 외면받고 있는 도박 기회를 발굴한다.
(중략) 요즘은 숨은 원석이 20년 전에 불가리스가 찾은 것처럼 크지도 않고 반짝이지도 않는다.
그래도 왜 어떤 요인은 베팅라인에 반영되고 어떤 요인은 반영되지 않는지 의아할 때가 많다.
그리고 앵글을 발굴하는 방법은 많이 탐색하는 것뿐이다.
스팽키와 피보디는 경기를 많이 보지 않는다고 말했지만 불가리스는 NBA 광팬이다.

---「4장.
경쟁」중에서

월터스가 근면성실과 함께 무엇보다 중요하게 생각하는 자질이 컨센서스consensus[스포츠베팅에서 대중 또는 샤프한 베터들의 집합적 의견]를 파악하는 능력이다.
영역 지식? 베팅 지식? 분석 능력? 월터스는 그 모든 것을 고맙게 받아들인다.
70대 후반인 지금도 월터스는 파트너들과 함께 “딥러닝 알고리즘을 실험하고 랜덤포레스트random forest(머신러닝에서 이용되는 학습법 중 하나-옮긴이)를 살펴본다”고 내게 말했다.
이는 챗GPT 같은 AI 시스템에 활용되는 머신러닝 기법이기도 하다.
그는 선택의 여지가 없다고, 변화를 따라가지 못하면 경쟁에서 도태될 뿐이라고 생각했다.
“우리는 절대로 멈추지 않고 새로운 앵글을 탐색합니다.
내가 확실히 알거든요.
우리의 경쟁 상대가 세상에서 가장 똑똑한 사람들이라는 걸요.”
---「4장.
경쟁」중에서

어떤 사람이 -EV 베팅을 하는 데는 크게 두 가지 이유가 있다.
첫째, 재미있으니까.
둘째, 자기가 ‘좋은 베팅’을 하고 있다고 착각해서.
드래프트킹스 같은 스포츠북은 ‘오락 상품’을 자처하며 첫 번째 유형의 고객을 노린다.
하지만 굳이 두 번째 유형을 부추기지는 않는다.
그러니까 만일 승리하는 플레이어에게 적극적으로 제약을 건다고 알려진 스포츠북에서 당신의 액션을 잘 받아준다면 왜 그런지 생각해봐야 한다.
사실상 당신을 패배자로 간주한다는 의미다.

---「4장.
경쟁」중에서

초기 단계의 기업에 투자할 때는 빨리 투자 설명을 듣고 거를 기업을 걸러야 한다.
이때 첫인상이 매우 중요하게 작용한다.
큐반이 주로 사용하는 휴리스틱은 창업자의 관점에서 그 기업을 보는 것이다.
“나는 어떤 사업이 성공하기 위해서 필요한 걸 포착하는 감각이 좋은 편이에요.
그래서 사업 설명을 들을 때 상대방의 입장이 되어 그 회사가 내 회사라고 생각하면 반드시 대답해야 할 만한 [까다로운] 질문을 던지죠.” 그는 자신의 사업에도 똑같은 전술을 적용해서 역으로 경쟁자의 입장에서 생각한다.
“내 회사에 관해서는 항상 이런 걸 물어보는 거죠.
‘어떻게 하면 나를 박살낼 수 있을까?’”
---「13장.
영감」중에서

갤폰드는 “내가 누누이 강조했던 게 논리, 심리, 통계입니다.
중요한 순서대로요”라며 한때 자신이 포커 플레이어에게 중요하다고 생각했던 능력을 언급했다.
하지만 위와 같은 경험을 하면서 이제는 순위가 바뀌었다.
“지금은 심리와 통계보다 자기인식과 겸손이 더 중요하다고 봐요.”
---「13장.
영감」중에서

무분별하게 슛을 날리라는 소리는 아니다.
그러나 성공하는 위험감수자는 항상 +EV 기회를 탐색하고 언제든 방아쇠를 당길 준비가 되어 있다.
(중략)

이런 태도가 미국과 여타 국가의 차이점이다.
인공육과 인공지능 등 성공 가능성이 별로 없는 기술에 주로 투자하는 코슬라벤처스Khosla Ventures의 설립자 비노드 코슬라Vinod Khosla는 “미국에서는 그럽니다.
‘어떻게 하면 겨우 3x 이익에 집착하지 않고 100x에 도전할 수 있을까?’”라고 말했다.
코슬라에 따르면 그의 모국 인도를 포함해 대부분의 나라는 사정이 달라서 하방을 보호하라는 사회적 압력을 가한다.
“아직도 그러는 거예요.
당신 직함이 뭡니까? 회사가 얼마나 안정적이죠? 그러니까 불확실한 영역에서 사업을 못 해요.
불확실하다는 건 상방도 크게 열려 있지만 하방도 크게 열려 있다는 거거든요.”
---「13장.
영감」중에서

퀀트들은 스페이스X를 무모한 도전이라고 판단했다.
머스크의 생각은 달랐다.
틸은 “일론에게는 어떻게든 해내고야 말겠다는 투지가 있었습니다.
조립만 잘하면 다 된다는 거였어요.
하지만 참 이상하게도 다들 확률론적으로만 생각하니까 아무도 그런 짓을 안 하죠”라고 말했다.
(중략)

세상을 바꿀 잠재력이 있는 기술은 재미있는 범주에 속한다.
당신이 VC 회사처럼 그런 기술들로 성공 가능성이 희박한 베팅의 포트폴리오를 구성하면 확률론적 관점이 생긴다.
이때 당신이 정상급 VC 회사라면 사실상 장기적 이익이 보장된다.
그러나 같은 기술이 창업자에게는 생계가 달린 문제일 수 있다.
실리콘밸리에는 확률론자, 그러니까 오즈를 계산하는 이성적인 사람이 필요하다.
하지만 비이성적인 사람, 곧 결정론자·광신자·5,000단어 분량의 선언문을 쓰는 사람 역시 필요하다.

---「5장.
가속」중에서

이처럼 무無행동에 관한 우려가 존재한다는 것, 그리고 행동에 관한 우려가 존재하지 않는다는 것이 실리콘밸리의 중요한 특징이라고 본다.
실리콘밸리의 기댓값 계산법은 이해하기 쉽다.
성공 확률 5퍼센트에 100x 보상을 곱하면 해볼 만한 베팅이 된다고 생각한다.
실리콘밸리의 계산식에 마법의 소스 같은 것은 없다.
초기 단계 기업에 투자할 때 딱히 계량적인 기법이 사용되지도 않는다.
콜리슨은 “실리콘밸리 사람들이라고 딱히 계산을 더 잘하는 것 같지는 않습니다”라고 말했다.
대신 그들은 ‘실행’을 더 잘한다.
다시 말해 실패할 확률이 ‘매우’ 높은 투자의 방아쇠를 더 잘 당기고 가끔은 그래서 망신을 사기도 한다.
“뭔가 기질적으로 남들보다 발달한 부분이 있는 것 같아요.”
---「5장.
가속」중에서

테틀록이 여우과라고 말하는 성격 특성을 가진 전문가들, 곧 잡다한 지식이 많은 전문가들은 비교적 예측이 더 정확했다.
바로 이 영리한 여우들이 《신호와 소음》의 주인공이었다.
그렇다면 여우는 좋은 창업자가 될 수 있을까? (중략)

일론 머스크 같은 사람을 생각해보자.
다음 표에서 고슴도치 칸에 열거된 특성이 거의 다 들어맞는다.
머스크는 몹시 독선적이다.
그런 말이 싫다면 엄청나게 심지가 굳다는 표현을 쓸 수도 있겠다.
그가 엔지니어처럼 생각하고 질서를 추구하는 것도 고슴도치의 특성이다.

창업자 출신인 틸도 고슴도치팀이라 볼 수 있다.
그는 질서를 추구하고 이념적으로 생각한다.
틸의 위험수용도가 머스크에 못 미칠 수는 있지만(머스크 같은 사람은 극히 드물다) 고슴도치들은 기본적으로 위험에 대한 감각이 이상하다.
무슨 말인가 하면 위험을 추산하는 능력이 썩 좋지 않다 보니 남들과 다르게 오즈를 계산해서 남들은 극도로 위험하다고 생각할 만한 일을 벌일 수 있다.
또는 오즈는 따져보지도 않고 어떤 일을 일생의 과업으로 삼기도 한다.

반면에 VC들에게는 여우 같은 습관이 매우 유리하게 작용할 수 있다.
투자처를 고를 때 VC들은 예측을 한다.
테틀록의 연구에 따르면 예측은 여우가 더 잘한다. VC들이 예측할 때 꼭 통계에 중점을 두는 것은 아니다.
하지만 다양한 업종에 걸쳐서 수백 개 기업의 사업 설명을 듣는 것이 일이다 보니 다양한 분야를 조금씩 알아야 한다.

---「5장.
가속」중에서

성공한 창업자들은 평균적으로 비호감일지도 모른다.
비호감이 경쟁심, 독립심과 상관관계에 있기 때문이다.
하지만 비호감은 기능이 아니라 버그다.
창업자를 고를 때 비호감을 ‘기준’으로 삼으면 엉뚱한 사람이 선택될 수 있다.
특히 창업자들이 일부러 VC들이 좋아할 것 같은 어떤 전형을 흉내 낸다면 그럴 가능성이 더 커진다.
예를 들어 샘 뱅크먼프리드처럼(그에 관해서는 다음 장에서 이야기할 것이다).

---「5장.
가속」중에서

도널드 트럼프는 강사람인가? 아니다.
트럼프는 카지노사업 경력이 무색할 만큼 분석력이 부족하다.
일론 머스크는 강사람인가? 그렇다.
특유의 충동적 성격은 별로 강사람답지 않지만 위험감수도는 강사람 그 자체이며 이미 수많은 강사람에게 동경의 대상이 되었으니 강에서 배제할 수 없다.
그런데 SBF는 헷갈릴 부분이 전혀 없었다.
그는 강의 주민을 넘어 강의 대통령이라고 할 만했다.
그렇다고 강사람이 모두 SBF와 같다는 말은 아니다.
그는 도덕의 잣대를 상실했고 일론 머스크조차 소심파로 보이게 할 만큼 도박 성향이 강하다는 점에서 강사람 중에서도 아웃라이어다.
그래도 강사람들이 같은 종족임을 부인할 수 없는 아웃라이어다.
---「6장.
환각」중에서

내가 만났을 때만 해도 마신스키는 암호화폐계의 원로로 통했다.
(중략) 성공하는 트레이더와 그렇지 않은 트레이더의 차이점은 무엇인가?

그의 답변은 특유의 자조적인 화법 때문에 매우 냉소적이면서도 유머러스했다.
“포커는 실력이 중요하죠.
하지만 이 일은 실력과 상관없어요.
그냥 버스를 타면 되는 거거든요.
버스가 정거장에 왔어요.
그런데 다들 안 탔어요.
‘에이, 뭔 버스가 생긴 것도 이상하고 냄새도 이상하네.
난 안 탈래! 저 사람들 이상해!’라면서요.” 그러면서 그는 자신의 티셔츠를 가리켰다.
거기에는 ‘존버HODL’라고 적혀 있었다.
존버는 ‘존나 버티기hold on for dear life’의 약자로, 암호화폐를 너무 일찍 팔아서 파티를 망치지 말라는 경고 문구라고 할 수 있다.
“누가 그 버스를 운전하라는 것도 아니에요.
그 버스의 목적지를 알아야 하는 것도 아니고요.
그냥 그 버스에서 한숨 자면 돼요.
내 티셔츠를 보세요.
존버! 존버는 그냥 버스 뒷좌석에서 자라는 말이에요.
그러다 종점에서 일어나면 백만장자가 되어 있는 거죠.”

나는 그 부분을 물고 늘어졌다.
암호화폐 얼리어댑터들의 선견지명을 조금이라도 인정해줘야 하는 것 아닌가? 그는 조금도 물러서지 않았다.
“비트코인으로 피자를 산 사람과 자기 컴퓨터에 비트코인이 있는 걸 까먹고 있다가 10년 뒤에 그게 가치가 있다는 걸 알고 억만장자가 된 사람을 비교해보죠.
사실상 둘 다 똑같은 사람이에요.
한 명은 코인이 어디 있는지 알았고 다른 한 명은 몰랐다는 차이만 있을 뿐이죠.
실력은 아무 상관이 없어요! 전혀요! 전혀 무관해요!”
---「6장.
환각」중에서

부테린은 “2014년인가 2016년까지만 해도 나는 이 바닥이 조금이라도 흥미로워질 확률이 10~20퍼센트밖에 안 된다고 봤어요”라고 내게 말했다.
그래도 그는 기댓값을 계산했다.
당시 비트코인은 시가총액이 약 70억 달러인 반면에 금의 시가총액은 자그마치 7조 달러였다.
만일 비트코인의 가치가 금의 10퍼센트 수준으로 상승할 확률이 5퍼센트만 된다고 해도 시가총액이 당시의 5배인 350억 달러는 되어야 했다.
“계산을 해보니까 한번 해볼 만하다 싶더라고요.” 그래서 부테린은 암호화폐에 올인하기로 하고 2014년에 학교를 중퇴하는 조건으로 피터 틸의 재단에서 10만 달러를 지원받아 이더리움을 본격적으로 개발했다.

---「6장.
환각」중에서

비트코인에도 거의 동일한 원리가 적용된다.
비트코인은 포컬포인트다.
그랜드센트럴과 마찬가지로 비트코인도 전적으로 자의적인 선택은 아니다.
비트코인은 최초의 암호화폐이고, 포컬포인트를 찾을 때 최초성은 매우 중요하게 작용한다.
그리고 비트코인은 영속성의 오라를 부여하는 특징이 존재한다.
첫째, 비트코인은 총 발행량이 2,100만 개로 제한된다.
둘째, 비트코인의 프로토콜(기능 및 운용에 관한 규정-옮긴이)은 웬만해서는 바뀌지 않는 것으로 유명하다.
하지만 그 외에도 표준이 되는 암호화폐가 하나(또는 최대 둘)는 존재해야 한다는 사실 역시 비트코인에 유리하게 작용한다.
만일 나는 네이트코인으로 거래하고 싶은데 당신은 비트코인으로, 또 다른 친구는 도지코인으로 거래하길 원한다면 거래가 성사되지 않아서 우리 모두 게임에서 패배할 것이다.

---「6장.
환각」중에서

EA와 합리주의자 간에는 관심사의 교집합이 존재한다.
그들은 특히 AI와 핵무기처럼 인류에게 실존적 위협이 될 수 있는 기술(이 책의 결말부에서 다루는 주제이기도 하다)에 관심이 많고, 기댓값이나 베이즈 추론처럼 강의 다른 지역에서도 사용되는 개념을 공통적으로 활용한다.
하지만 이처럼 EA와 합리주의자 간에 공감대가 존재한다고 해도 그 이면에는 겉으로 잘 드러나지 않는 의견 충돌, 더 나아가 대립의 양상이 존재한다.

---「7장.
계량」중에서

효율적 이타주의자들은 이렇게 대충 계산하지 않고 더 정밀한 계산을 추구한다.
나는 매캐스킬에게 EA가 어떤 점에서 차별화되는지, 그리고 강에서 만날 수 있는 다른 부류의 사람들과 비교하면 어떤지 물었다. EA들이 하는 말을 들어보면 생각 이상으로 포커 플레이어와 비슷하다.
(사실 유명한 포커 플레이어 중에 매캐스킬의 책에 언급된 쿠르가노프와 파트너 리브 보리Liv Boeree처럼 EA가 된 사람이 여러 명 있다.) “공통점은 인지 방식인 것 같습니다.
기댓값이라는 개념을 중요하게 여기죠.
계량이 불가능한 것을 계량하려 하고요.
상식을 거부하고, 어떤 아이디어를 접했을 때 가장 먼저 본능적으로 드는 생각을 거부합니다.” 물론 차이점도 있다.
포커는 이타적인 행위가 아니다.
“포커 플레이어들이나 금융권 사람들 중에 타인에게 쥐뿔도 관심 없는 사람이 많아요.
하지만 그 반대인 사람들도 있죠.
그런 사람들이 효율적 이타주의에 빠집니다.”
---「7장.
계량」중에서

도박과 위험을 말하는 책에서 왜 이렇게 도덕철학을 한참 논하고 있는 것일까? 일단은 싱어가 EA 진영에서 매우 영향력 있는 존재이기 때문이다.
매캐스킬이 EA는 ‘불편부당한’ 평가를 근거로 선을 행해야 한다고 말할 때 의미하는 바가 바로 싱어의 원칙이다.
하지만 여기서 공리주의를 논하는 이유는 무엇보다도 흔히 “최대 다수의 최대 행복”으로 정의되는 이 사상이 수학적 표현에 유리하다는 점에서 계량적 사고를 좋아하는 강사람들이 솔깃할 만하기 때문이다.
공리주의하에서 도덕은 일종의 EV 극대화 문제가 된다.
우리가 물에 빠진 아이를 구해야 하는 이유는 옷이 더러워져 봤자 그 손실이 800유틸util(효용utility의 단위), 말하자면 새로 산 브룩스브라더스 정장의 가격밖에 안 되지만 아이의 생명은 1,000만 유틸(통계적 생명가치)에 해당하기 때문이다.
---「7장.
계량」중에서

켈리공식은 장기적 기댓값을 최대화하는 공식으로 종종 설명된다.
하긴, 연패의 가도에 빠질 때를 대비해 현금을 쟁여놓을 필요도 있다.
아무리 좋은 대학미식축구 예측 모델을 갖고 있다고 해도 베팅할 밑천이 없으면 돈을 벌 수 없다.
하지만 사실을 말하자면 이것은 오해다.
켈리공식의 진짜 기능은 앞에서 말한 대로다.
켈리공식은 이익을 최대화하는 ‘동시에’ 파멸의 위험을 최소화한다.
파멸이 두렵지 않다면 더 많이 베팅해도 된다.
그러면 EV도 더 높아진다.
하지만 그랬다간 ‘십중팔구’ 파멸할 것이다.

---「8장.
오산」중에서

AI 때문에 인류가 멸망할 수 있다는 말이 황당무계하게 들리는 사람도 있을 것이다.
내가 볼 때 나는 멸망론자가 아니고 p(멸망)이 이 질문에 답하는 최선의 방법도 아니라고 생각하지만, 멸망론자들이 적어도 황당무계한 말을 하고 있지는 않다는 것을 독자에게 납득시키고 싶다.
그들의 생각이 틀렸을 수는 있다.
부디 틀렸으면 좋겠고 ‘아마도’ 틀렸을 것이다.
하지만 그들이 황당무계한 생각을 하는 것은 아니다.
우리는 적어도 가장 온건한 형태의 멸망론 정도는 수용해야 한다.
그것은 한 문장으로 AI 위험을 강조하는 선언문의 형태로 표현된다.
“AI에 의한 멸종의 위험성을 완화하는 것이 팬데믹과 핵전쟁 등 여타 사회적 규모의 위험 요인을 취급하는 것과 함께 국제사회에서 다뤄야 할 최우선 과제가 되어야 한다.” 2023년에 이 선언문에 3대 AI 기업(올트먼의 오픈AI, 앤스로픽, 구글 딥마인드)18의 CEO와 내로라하는 AI 전문가들이 서명했다.

---「∞장.
종료」중에서

‘멸망’을 ‘2100년까지 인류가 5,000명만 남고 모두 사망하는 사태’로 정의했을 때 영역 전문가들이 예측한 AI의 p(멸망)은 절사평균 8.8퍼센트였다.
제너럴리스트들의 예측치는 0.7퍼센트에 그쳤다.
두 집단은 이처럼 예측치의 자릿수가 차이 났을 뿐만 아니라 서로 잘 어울리지도 못했다.
테틀록은 “슈퍼예측자들은 멸망론자들이 허세가 심하고, 자기도취적이고, 세상의 구원자 행세를 한다고 봅니다.
반면에 AI를 우려하는 쪽에서는 슈퍼예측자들을 답답하게 여기죠.
(…) 큰 그림을 못 본다고요.
기하급수적 이륙을 모른다고요”라고 말했다.

---「∞장.
종료」중에서

마지막은 상호성이다.
상호성은 게임이론에서 직접 유래하기 때문에 세 원칙 중에서 가장 강에 가깝다.
그 의미는 다른 사람을 이성적이고 전략적인 행동이 가능한 지성적 존재로 대우하는 것이다.
우리는 역동적인 세계에 살고 있고, 사람들은 설령 엄밀한 기준에서 합리적이라고 보기는 어렵다고 해도 대체로 영리하게 상황에 적응하고 자신에게 가장 중요한 것을 성취하며 살아간다.
우리는 장기전을 해야 한다.
물론 어떤 사람이 우리에게 자신의 허점을 이용할 틈을 보일 때도 있다.
그러나 내시균형에서는 상대를 이용하려고 하면 반드시 내가 이용당할 위험도 생긴다는 점을 명심하자.
---「1776장.
기초」중에서

죄수의 딜레마가 주는 교훈을 기억하자.
사람들이 각자 합리적으로 행동하더라도 서로를 신뢰할 수 없으면 모두 더 나쁜 결과를 맞는다.
지금은 미국의 주요 제도와 기관이 하나같이 신뢰를 크게 잃었고 내가 볼 때는 그럴 만해서 그런 경우가 많기는 하다.
(중략) 어쩌면 이제 새로운 제도적 기초가 필요한지도 모른다.
하지만 나는 만일 우리가 민주주의 체제에서, 공익을 위해 이성적 선택을 할 가능성이 단 얼마간이라도 존재하는 이 체제에서 희망을 거둔다면 앞으로 얼마나 더 생존할 수 있을지 잘 모르겠다.

---「1776장.
기초」중에서