[1994 노벨경제학상] 존 내시, 존 하사니, 라인하르트 젤텐 : '게임 이론'이라는 세상을 연 세 명의 천재

 

 

📜 아름다운 정신, 그리고 경제학의 새로운 지평

 

2001년, 전 세계는 한 천재 수학자의 감동적인 삶을 그린 영화 뷰티풀 마인드 [A Beautiful Mind]에 매료되었습니다. 압도적인 천재성, 그리고 그를 평생 괴롭힌 정신분열증의 고통 속에서 균형을 찾아가는 그 '아름다운 정신'의 주인공. 그의 이름은 존 내시 [John Nash Jr.]입니다.

하지만 1994년 스웨덴 왕립 아카데미가 그를 호명했을 때, 그의 곁에는 두 명의 또 다른 거인이 함께 서 있었습니다. 많은 사람이 존 내시의 이름은 기억하지만, 이 세 사람이 함께 이룬 '게임 이론'이라는 거대한 산맥의 진정한 모습을 아는 이는 드뭅니다.

애덤 스미스 이래로 경제학이 '시장'이라는 거대한 시스템을 다루었다면, 이들은 '개인'과 '개인'이 만나는 모든 전략적 순간을 분석하는 새로운 도구를 인류에게 선물했습니다.

이것은 한 명의 천재가 아닌, 세 명의 천재가 릴레이 경주를 하듯 완성해낸 20세기 지성의 위대한 승리였습니다. 1994년 노벨 경제학상은 바로 그 장대한 여정을 완성한 존 하사니 [John Harsanyi], 존 내시, 그리고 라인하르트 젤텐 [Reinhard Selten]에게 공동으로 수여되었습니다.

---

 

🏆 경쟁과 협력의 모든 순간을 분석하다

 

노벨 위원회가 밝힌 이 세 거장의 수상 이유는 다음과 같습니다.

비협력 게임 이론에서의 균형 분석에 대한 선구적인 공헌을 위하여 [For their pioneering analysis of equilibria in the theory of non-cooperative games]

단어들이 조금 어렵게 들릴 수 있습니다. 하지만 그 뜻은 우리 삶과 직결됩니다.

• 게임 이론 [Game Theory]: 나의 선택이 상대방의 선택에 영향을 받고, 상대방의 선택 또한 나의 선택에 영향을 주는 '전략적 상황'을 수학적으로 분석하는 학문입니다.
• 비협력 게임 [Non-cooperative Game]: 참가자들이 서로 공식적인 합의나 구속력 있는 계약 없이, 오직 '자신의 이익'을 극대화하기 위해 행동하는 게임을 말합니다. [우리가 일상에서 마주하는 대부분의 상황입니다]
• 균형 [Equilibria]: 이 치열한 '게임' 속에서, 모든 참가자가 자신의 전략을 바꿀 유인이 없는 '안정적인 상태'를 의미합니다.

이 세 사람은 이 '안정적인 상태', 즉 균형을 찾아내는 빛나는 아이디어를 차례대로 제시했습니다.

1. 존 내시는 이 '균형'의 존재를 증명하는 '기초'를 세웠습니다.
2. 존 하사니는 '정보가 불확실한' 현실의 안개를 걷어냈습니다.
3. 라인하르트 젤텐은 '시간이 흐르는' 동적인 게임의 해법을 풀었습니다.

---

 

✍️ 제1의 주자, 존 내시 : '균형'의 토대를 세우다

 

존 내시는 의심할 여지 없는 20세기의 천재였습니다. 프린스턴 대학원 박사 과정 시절, 그는 단 28페이지짜리 박사 학위 논문을 제출합니다. 이 논문이 바로 1994년 그에게 노벨상을 안겨준 핵심, 내시 균형 [Nash Equilibrium]을 제시한 전설적인 논문입니다.

 

죄수의 딜레마와 내시 균형

 

내시 균형을 가장 잘 설명하는 예는 죄수의 딜레마 [Prisoner's Dilemma]입니다.

두 명의 공범 A, B가 경찰에 잡혔습니다. 둘은 분리되어 심문받으며, 다음과 같은 선택지를 받습니다.

• 둘 다 침묵하면 (협력) : 둘 다 징역 1년. [총 징역 2년]
• A는 배신, B는 침묵: A는 석방, B는 징역 10년. [총 징역 10년]
• A는 침묵, B는 배신: A는 징역 10년, B는 석방. [총 징역 10년]
• 둘 다 배신하면 (경쟁) : 둘 다 징역 5년. [총 징역 10년]

당신이 A라면 어떤 선택을 할까요? 당신은 B가 무슨 선택을 할지 모릅니다.

1. 만약 B가 '침묵'을 선택했다면? 나는 '배신'하는 것이 이득입니다. [1년 징역 → 석방]
2. 만약 B가 '배신'을 선택했다면? 나는 '배신'하는 것이 여전히 이득입니다. [10년 징역 → 5년 징역]

결국, 상대방이 어떤 선택을 하든 '배신'하는 것이 나에게 가장 유리한 전략 [우월 전략]입니다. B 역시 똑같이 생각할 것입니다.

그 결과, 둘 다 서로를 '배신'하고 둘 다 5년형을 받는 지점에서 게임은 멈춥니다. 이것이 바로 내시 균형입니다.

이 균형점은 '둘 다 침묵해서 1년씩만 사는' 집단 최적의 해답은 아닙니다. 하지만, 일단 이 지점에 도달하면 그 누구도 혼자서는 전략을 바꿔서 이득을 볼 수 없습니다. [만약 A가 혼자 침묵으로 바꾼다면 10년 형을 받게 됩니다]

내시는 이처럼 모든 '비협력 게임'에는 이 내시 균형이 반드시 하나 이상 존재한다는 것을 수학적으로 증명해냈습니다. 이로써 경제학자들은 기업 간의 과점 경쟁, 국가 간의 무역 협상 등 온갖 복잡한 상호작용의 '결과'를 예측할 수 있는 강력한 무기를 얻게 되었습니다.

---

 

📚 제2의 주자, 존 하사니 : '불확실성'의 안개를 걷다

 

내시의 이론은 강력했지만, 치명적인 한계가 있었습니다. 그것은 바로 '모든 참가자가 게임의 규칙과 서로의 보상을 완벽하게 알고 있다'고 가정한 것입니다.

하지만 현실은 어떤가요? 우리는 포커 게임을 할 때 상대방의 패를 알지 못합니다. M&A 협상을 할 때, 상대방이 생각하는 '최소 가격'을 정확히 알지 못합니다.

이 '정보의 안개' 속에서 게임 이론을 어떻게 적용할 수 있을까요? 이 거대한 질문에 답한 사람이 바로 존 하사니입니다.

나치와 공산주의를 피해 헝가리에서 미국으로 망명한 하사니는, 이 불완전 정보 [Incomplete Information] 게임을 수학의 영역으로 끌어들였습니다.

그의 아이디어는 천재적이었습니다.

"상대방의 패 [정보]를 모른다고? 그렇다면 상대방이 어떤 패를 들고 있을지에 대한 확률을 게임에 포함시키면 된다!"

예를 들어, 협상 상대가 '강성'일 확률이 30%, '유순'할 확률이 70%라고 가정하는 것입니다. 하사니는 이렇게 '정보가 불완전한 게임'을, 가상의 '확률' 플레이어가 먼저 움직이는 '정보가 완전한 게임'으로 변환하는 방법을 고안해냈습니다.

이로써 경제학자들은 경매, 중고차 시장 [레몬 마켓], 보험 등 정보 비대칭이 핵심인 시장을 분석할 수 있게 되었습니다. 내시가 게임의 '뼈대'를 세웠다면, 하사니는 그 위에 '현실'이라는 살을 붙였습니다.

---

 

⚡️ 제3의 주자, 라인하르트 젤텐 : '시간'의 축을 완성하다

 

이제 두 개의 큰 산이 해결되었습니다. 하지만 여전히 하나의 문제가 남았습니다. 내시 균형에는 종종 '말이 안 되는' 해답이 포함되어 있었기 때문입니다.

예를 들어, 'A'라는 기업이 시장에 이미 진출해있고, 'B'라는 기업이 새로 진입하려 합니다.

• A는 B에게 "만약 진입하면, 막대한 손해를 감수하고 출혈 경쟁을 벌여 너를 망하게 하겠다!"고 위협합니다.
• 만약 B가 이 위협을 믿고 진입을 포기하면, A는 독점 이익을 누립니다.
• 만약 B가 진입하고 A가 정말 출혈 경쟁을 하면, 둘 다 망합니다.
• 만약 B가 진입하고 A가 경쟁을 포기하고 시장을 분점하면, 둘 다 적당한 이익을 얻습니다.

이때, [B는 진입하지 않는다, A는 출혈 경쟁으로 위협한다]는 것도 하나의 '내시 균형'이 됩니다. B는 A의 위협이 무서워 진입을 안 하고, A는 굳이 전략을 바꿀 [경쟁을 포기할] 이유가 없으니까요.

하지만 이 위협은 과연 합리적일까요? 독일 출신의 경제학자 라인하르트 젤텐은 "아니오!"라고 답했습니다.

그는 '시간'의 개념을 도입했습니다. 만약 B가 A의 위협을 무시하고 일단 진입하면, A에게 합리적인 선택은 '출혈 경쟁' [같이 죽는 길]이 아니라, '시장 분점' [같이 사는 길]뿐입니다. 따라서 A의 '출혈 경쟁 위협'은 B가 진입하기 전에는 유효해 보이지만, 막상 B가 진입한 '후'에는 실행될 수 없는 '신뢰할 수 없는 위협' [Non-credible Threat]입니다.

젤텐은 이처럼 '시간 순서'를 고려하여, 게임의 모든 단계에서 합리적인 선택만을 골라내는 부분게임 완전 균형 [Subgame Perfect Equilibrium]이라는 개념을 창시했습니다.

이는 내시 균형 중에서 '진짜 합리적인' 균형만을 솎아내는 강력한 '필터' 역할을 했습니다. 젤텐 덕분에 게임 이론은 비로소 기업의 진입 장벽, 정치적 협상 등 동적이고 연속적인 현실의 문제들에 대한 명쾌한 해답을 제시할 수 있게 되었습니다.

---

 

🧐 세 천재가 그린 하나의 그림

 

이 세 명의 거장은 각기 다른 배경과 고난을 겪었지만, '게임 이론'이라는 하나의 목표를 향해 달려갔습니다.

• 존 내시 : 정적이고 완전한 정보의 게임에서 균형의 존재를 증명했습니다.
• 존 하사니 : 불완전한 정보 [안개]가 낀 현실의 게임을 분석하는 법을 만들었습니다.
• 라인하르트 젤텐 : 시간의 흐름 [동적] 속에서 신뢰할 수 있는 균형을 찾아냈습니다.

이들이 없었다면 현대 경제학은 물론, 정치학, 생물학 [진화 안정 전략], 법학, 컴퓨터 공학까지 수많은 학문이 지금과는 전혀 다른 모습이었을 것입니다.

존 내시의 삶은 한 편의 영화처럼 극적이었지만, 1994년의 노벨상은 그 영화가 결코 한 명의 주인공만으로 완성될 수 없었음을 보여줍니다. 그것은 서로의 어깨 위에 올라서서 더 높은 곳을 바라본 세 명의 천재가 함께 완성한 '아름다운 협주곡'이었습니다.