당신의 모든 선택은 '게임'이다
삼성과 애플의 신제품 출시일 경쟁, 미-중 무역 협상 테이블의 팽팽한 긴장감, 심지어 오늘 점심 메뉴를 정하기 위한 친구와의 미묘한 신경전까지. 우리의 삶은 크고 작은 선택과 그 선택들이 얽혀 만들어내는 결과로 가득 차 있습니다. 이처럼 나의 선택이 상대방의 선택에 영향을 받고, 또 상대방의 선택이 나의 이익에 직접적인 영향을 미치는 상황을 우리는 '전략적 상황'이라고 부릅니다. 그리고 이러한 상황에서 최적의 의사결정을 내리기 위한 논리적 분석 도구가 바로 게임 이론(Game Theory)입니다.
많은 사람들이 게임 이론을 단순히 '이기는 법'을 알려주는 비법서 정도로 생각하지만, 그 본질은 훨씬 더 깊고 넓습니다. 게임 이론은 경쟁과 협력, 갈등과 타협이 공존하는 복잡한 인간 사회의 상호작용을 수학적 모델로 분석하여 그 구조를 이해하고 미래를 예측하려는 '전략적 사고의 과학'입니다. 이 글에서는 게임 이론의 핵심 개념부터 현실 세계의 다양한 적용 사례, 그리고 그 한계와 미래까지 깊이 있게 탐구하며 세상을 움직이는 보이지 않는 손, 게임 이론의 세계로 여러분을 안내하고자 합니다.
1. 게임 이론이란 무엇인가: 전략적 상호작용의 문법
게임 이론은 1944년 수학자 존 폰 노이만(John von Neumann)과 경제학자 오스카르 모르겐슈테른(Oskar Morgenstern)이 함께 쓴 저서 『게임과 경제 행동 이론』을 통해 학문적 체계를 갖추게 되었습니다. 그들은 체스나 포커와 같은 실제 게임뿐만 아니라, 경제, 정치, 사회 현상 등 다양한 상호 의존적 의사결정 상황을 '게임'으로 정의하고 분석할 수 있다고 보았습니다.
모든 게임은 다음과 같은 세 가지 기본 요소로 구성됩니다.
게임의 3요소: 경기자, 전략, 그리고 보수
- 경기자 (Players): 게임에 참여하여 의사결정을 내리는 주체입니다. 개인, 기업, 국가 등 다양한 단위가 될 수 있습니다.
- 전략 (Strategies): 각 경기자가 특정 상황에서 선택할 수 있는 모든 가능한 행동의 집합입니다. 예를 들어, 기업의 전략은 '가격을 인하한다', '광고를 늘린다', '신제품을 출시한다' 등이 될 수 있습니다.
- 보수 (Payoffs): 모든 경기자가 각자의 전략을 선택했을 때, 그 결과로 얻게 되는 이익이나 손실을 수치화한 것입니다. 보수는 금전적 이익일 수도 있고, 만족도, 권력, 명예 등 비금전적인 가치일 수도 있습니다.
게임 이론의 목표는 각 경기자가 자신의 보수를 최대화하기 위해 어떤 전략을 선택할 것인지를 예측하고, 그 결과로 나타나는 균형 상태를 분석하는 것입니다.
2. 게임 이론의 핵심 개념들: 죄수의 딜레마부터 내쉬 균형까지
게임 이론을 이해하기 위해서는 몇 가지 핵심적인 개념과 모델을 알아야 합니다. 그중 가장 유명하고 중요한 것들을 살펴보겠습니다.
가장 유명한 딜레마: 죄수의 딜레마 (Prisoner's Dilemma)
게임 이론을 이야기할 때 절대 빼놓을 수 없는 예시입니다. 상황은 다음과 같습니다.
두 명의 공범이 체포되어 서로 다른 방에서 심문을 받습니다. 둘 사이의 의사소통은 불가능합니다. 검사는 두 용의자에게 동일한 제안을 합니다.
- 둘 다 침묵(협력)하면, 증거 불충분으로 각각 징역 1년.
- 한 명은 자백(배신)하고 다른 한 명은 침묵하면, 자백한 사람은 석방되고 침묵한 사람은 징역 10년.
- 둘 다 자백(배신)하면, 둘 다 징역 5년.
이 상황을 보수 행렬(Payoff Matrix)로 표현하면 다음과 같습니다. (숫자는 징역 햇수로, 낮을수록 좋은 결과입니다.)
| 용의자 B | |||
|---|---|---|---|
| 침묵 (협력) | 자백 (배신) | ||
| 용의자 A | 침묵 (협력) | (A: 1년, B: 1년) | (A: 10년, B: 석방) |
| 자백 (배신) | (A: 석방, B: 10년) | (A: 5년, B: 5년) | |
용의자 A의 입장에서 생각해봅시다. 만약 B가 침묵한다면, 자신은 침묵하는 것(1년)보다 자백하는 것(석방)이 이득입니다. 만약 B가 자백한다면, 자신은 침묵하는 것(10년)보다 자백하는 것(5년)이 이득입니다. 즉, 상대방의 선택과 상관없이 자백하는 것이 항상 자신에게 유리한 '우월 전략(Dominant Strategy)'이 됩니다. 이는 용의자 B에게도 마찬가지입니다.
결국 두 명의 합리적인 용의자는 모두 '자백'을 선택하게 되고, 둘 다 5년의 징역을 살게 됩니다. 이는 둘 다 '침묵'하여 1년씩만 징역을 사는 최상의 결과보다 명백히 나쁜 결과입니다. 이처럼 개인의 합리적인 선택이 집단 전체에는 비합리적인 결과를 초래하는 역설적인 상황이 바로 죄수의 딜레마의 핵심입니다.
세기의 천재가 제안한 균형점: 내쉬 균형 (Nash Equilibrium)
영화 '뷰티풀 마인드'의 실제 주인공인 존 내쉬(John Nash)가 정립한 개념으로, 게임 이론의 가장 중요한 성과 중 하나입니다. 내쉬 균형이란, 모든 경기자가 상대방의 전략을 주어진 것으로 보고, 자신만의 전략을 바꿀 유인이 없는 상태를 의미합니다. 즉, '나 혼자만 다른 선택을 해봤자 내게 돌아오는 이익이 더 커지지 않는' 안정적인 상태입니다.
앞서 본 죄수의 딜레마에서 (자백, 자백) 상태가 바로 내쉬 균형입니다. A가 자백을 선택한 상황에서 B는 침묵(10년)보다 자백(5년)이 낫습니다. B가 자백을 선택한 상황에서도 A는 침묵(10년)보다 자백(5년)이 낫습니다. 따라서 어느 누구도 먼저 자신의 전략을 바꿀 이유가 없습니다. 내쉬 균형은 반드시 모두에게 최적인 파레토 최적(Pareto Optimality)을 보장하지는 않지만, 경쟁적인 상호작용의 결과를 예측하는 강력한 분석 도구가 됩니다.
게임의 다양한 얼굴들
- 제로섬 게임(Zero-sum Game) vs. 비제로섬 게임(Non-zero-sum Game): 제로섬 게임은 한쪽의 이득이 반드시 다른 쪽의 손실로 이어지는 게임입니다(예: 체스, 포커). 반면 비제로섬 게임은 모든 참여자가 함께 이득을 보거나(win-win) 손해를 볼 수 있는(lose-lose) 게임입니다. 대부분의 경제, 사회 현상은 비제로섬 게임에 해당합니다.