우리는 매일 수많은 판단을 내리며 살아갑니다. 그런데 이 판단들이 항상 논리적이고 정확한 것은 아닙니다. 직관에 따라 내린 결정이 사실과 다를 때가 많죠. 심리학과 인지과학은 이러한 판단 오류의 원인을 분석해왔고, 수학에서는 “베이즈 정리(Bayes’ Theorem)”가 그 설명 도구로 주목받고 있습니다. 이번 글에서는 베이즈 정리가 인간의 판단 오류를 어떻게 설명하는지, 그리고 이를 이해함으로써 더 나은 의사결정을 할 수 있는 방법을 살펴보겠습니다.
베이즈 정리란 무엇인가?
베이즈 정리는 조건부 확률을 계산하는 수학 공식입니다. 어떤 사건 A가 발생했을 때, 이미 일어난 사건 B를 바탕으로 A의 확률을 갱신하는 방식입니다. 공식은 다음과 같습니다:
\[ P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)} \]
여기서 \( P(A|B) \)는 B가 주어졌을 때 A가 일어날 확률(사후 확률), \( P(B|A) \)는 A가 일어났을 때 B가 일어날 확률(우도), \( P(A) \)는 A의 사전 확률, \( P(B) \)는 B의 전체 확률입니다.
판단 오류의 대표 사례: 기저율 무시
베이즈 정리가 인간 판단 오류를 설명하는 대표적인 사례는 “기저율 무시(Base Rate Neglect)”입니다. 이는 사람들 대부분이 사전 확률인 기저율을 무시하고 눈앞의 정보만을 과대평가하는 경향을 말합니다.
예를 들어, 어떤 병에 걸릴 확률이 0.1%이고, 검사 정확도가 99%라고 합시다. 어떤 사람이 양성 판정을 받았다면, 그 사람이 실제로 병에 걸렸을 확률은 얼마나 될까요?
많은 사람들이 직관적으로 99%라고 생각하지만, 실제 베이즈 정리를 적용하면:
\[ P(병|양성) = \frac{0.99 \times 0.001}{0.99 \times 0.001 + 0.01 \times 0.999} \approx 0.09 \ (9%) \]
즉, 실제로 병에 걸렸을 확률은 9% 정도밖에 되지 않습니다. 이는 대부분의 사람들이 기저율(0.1%)을 무시한 채 검사 정확도만을 믿고 판단했기 때문입니다.
대표성 휴리스틱과 베이즈 정리
사람들은 종종 어떤 사람이 특정 집단의 특징을 얼마나 잘 대표하는지를 바탕으로 판단합니다. 이를 ‘대표성 휴리스틱(Representativeness Heuristic)’이라고 하며, 이것 역시 베이즈 정리와 충돌합니다.
예를 들어, 수줍고 책을 좋아하며 조용한 사람에 대해 소개받았을 때, 많은 사람들은 그 사람이 사서일 것이라 추측합니다. 그러나 실제로 사서보다 농부가 훨씬 많다면, 그 사람이 농부일 확률이 더 높습니다. 베이즈 정리는 바로 이러한 확률의 불균형을 반영해줍니다.
베이즈 정리의 인지적 어려움
왜 우리는 베이즈 정리를 직관적으로 따르지 못할까요? 인간의 뇌는 복잡한 확률 계산보다는 직관이나 과거 경험에 기반한 판단에 익숙하기 때문입니다. 특히 확률의 곱셈, 분모의 해석 등은 일상적인 사고 체계와 맞지 않아 인지적으로 부담이 큽니다.
인지과학자들은 이러한 어려움을 줄이기 위해 ‘자연 빈도(natural frequency)’ 방식으로 정보를 제시하면 사람들이 베이즈적 사고를 더 잘 수행한다고 말합니다. 예를 들어:
- 1000명 중 1명이 병에 걸린다.
- 병에 걸린 사람 1명 중 0.99명이 양성 반응을 보인다.
- 병에 걸리지 않은 999명 중 약 10명이 양성 반응을 보인다.
이렇게 제시하면 실제 확률보다 빈도를 기반으로 사고하게 되어 판단 오류가 줄어듭니다.
결론
베이즈 정리는 단순한 수학 공식이 아니라, 인간의 판단과 의사결정을 이해하는 데 강력한 도구입니다. 우리가 흔히 범하는 기저율 무시, 대표성 오류 등은 모두 베이즈 정리를 따르지 않은 결과입니다.
직관에 의존한 판단은 종종 오류를 낳습니다. 수학적 사고를 통해 우리는 더욱 정확하고 합리적인 판단을 내릴 수 있으며, 베이즈 정리는 그 핵심 도구가 될 수 있습니다. 특히 확률적 사고가 중요한 시대일수록, 이 정리에 대한 이해는 더욱 중요해집니다.