우리는 일상에서 수많은 선택을 하며 살아갑니다. 무심코 고른 점심 메뉴부터 인생을 좌우할 진로 결정까지, 이 모든 선택들은 다양한 요인에 의해 영향을 받습니다. 그렇다면 이 복잡한 인간의 선택을 수학적으로 예측할 수 있을까요? 바로 이 질문에 도전하는 학문이 “게임이론(Game Theory)”입니다. 이 글에서는 게임이론이 무엇인지, 그리고 어떻게 인간의 선택을 수학적으로 모델링하고 예측할 수 있는지를 다뤄보겠습니다.
게임이론이란 무엇인가?
게임이론은 수학, 경제학, 심리학, 컴퓨터과학 등 다양한 분야에서 활용되는 이론으로, 여러 이해관계자들이 특정 상황에서 어떻게 선택을 하고 전략을 세우는지를 분석합니다. 간단히 말해, 게임이론은 ‘상호작용하는 인간의 선택’을 분석하는 도구입니다.
게임이론에서 말하는 ‘게임’은 우리가 흔히 아는 오락용 게임이 아니라, 서로의 선택이 서로에게 영향을 미치는 상황을 뜻합니다. 예를 들어, 두 회사가 가격 경쟁을 벌이는 상황, 두 정치인이 선거 전략을 고민하는 상황, 또는 친구끼리 저녁 메뉴를 정하는 상황 모두 게임이론의 분석 대상입니다.
게임이론의 핵심 개념들
1. 전략
전략이란, 각 참여자가 상황에 따라 취할 수 있는 행동의 규칙입니다. 예를 들어, 가위바위보에서는 가위, 바위, 보 중 하나를 고르는 것이 전략이 됩니다.
2. 보수(Payoff)
각 전략 조합이 가져오는 결과를 수치화한 것이 보수입니다. 이 보수를 통해 어떤 전략이 유리한지를 판단할 수 있습니다.
3. 내쉬 균형(Nash Equilibrium)
내쉬 균형은 모든 참여자가 자신의 전략을 바꾸지 않는 것이 최선인 상태를 의미합니다. 즉, 각자 최선의 선택을 했기 때문에 누구도 먼저 움직일 유인이 없는 상태입니다.
예를 들어, 죄수의 딜레마에서 두 사람이 모두 자백하는 것이 내쉬 균형이지만, 이는 모두에게 최악의 결과일 수도 있습니다.
인간의 선택을 어떻게 수학적으로 모델링하는가?
게임이론은 인간의 선택을 수학적으로 모델링하기 위해 다양한 가정과 구조를 사용합니다. 예를 들어, 참여자들이 합리적으로 행동한다는 전제를 두고 각자의 선택이 가져올 결과를 수식화합니다.
예를 들어, 두 회사가 시장 점유율을 놓고 경쟁할 때, 각 회사는 상대의 전략을 예측하며 자신의 전략을 정합니다. 이 과정을 수학적으로 표현하면 다음과 같은 함수 관계로 나타낼 수 있습니다.
\[ P_i = f(S_i, S_j) \]
여기서 \( P_i \)는 i번째 참여자의 이익(보수), \( S_i \)는 자신의 전략, \( S_j \)는 상대의 전략을 의미합니다. 이처럼 수학 함수로 전략 간 상호작용을 나타냄으로써 인간의 선택을 예측하는 모델을 세울 수 있습니다.
현실에서의 적용 사례
1. 경제학
기업의 가격 정책, 시장 진입 전략 등은 게임이론을 통해 분석됩니다. 특히 독점 시장이나 과점 시장에서는 경쟁사의 반응을 예측해야 하기 때문에 게임이론이 매우 유용합니다.
2. 정치학
정당 간 연합 전략, 선거에서의 후보 전략, 국제 외교 관계 등에서도 게임이론이 사용됩니다. 예컨대 냉전 시기의 핵 억지 전략은 게임이론의 대표적인 사례로 꼽힙니다.
3. 심리학 및 행동경제학
인간이 실제로 얼마나 “합리적”인지를 실험을 통해 확인하며 게임이론을 보완합니다. 대표적인 예로는 울티메이텀 게임(Ultimatum Game)과 공공재 게임(Public Goods Game)이 있습니다.
게임이론의 한계
게임이론은 강력한 예측 도구이지만, 모든 상황에 완벽하게 들어맞지는 않습니다. 그 이유는 다음과 같습니다.
- 현실의 인간은 항상 합리적이지 않다.
- 모든 정보를 완벽하게 알 수 있는 상황은 드물다.
- 심리적 요인, 감정, 편견 등이 선택에 영향을 준다.
이러한 이유로, 최근에는 ‘행동게임이론(Behavioral Game Theory)’처럼 보다 현실적인 인간 행동을 반영하려는 시도도 활발히 진행되고 있습니다.
결론
게임이론은 인간의 선택을 수학적으로 분석하고 예측하려는 강력한 도구입니다.
먼저, 게임이론이란 무엇인지를 이해하며 인간 간 상호작용을 어떻게 모델링하는지 살펴보았습니다. 이어서 전략, 보수, 내쉬 균형 등 핵심 개념을 통해 게임이론의 구조를 파악했고, 현실에 어떻게 적용되는지도 확인했습니다.
하지만 인간의 선택은 때로는 비합리적이고 예측 불가능하기에 게임이론만으로는 한계가 존재합니다. 그럼에도 불구하고, 게임이론은 수학과 현실 사이의 가교 역할을 하며, 인간 행동을 더 깊이 이해하는 데 중요한 통찰을 제공합니다.