죄수의 딜렘마 (경쟁과 협동 실험)

경쟁과 협동에 관한 많은 연구들은 사람들의 일상 생활적 상호작용에서 나타나는 핵심적인 특징을 모사하는 실험실 게임을 사용한다.  대표적인 게임중의 하나가 경찰서에 잡혀 온 두 범죄자가 당면한 문제에 관한 죄수의 궁지게임이다.  ++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++

‘죄수의 딜레마’는 사회과학에서 사용되는 응용수학의 한 분야인 게임이론에서 발생한다. 게임이론에서는 전략적 상황에서 한 개인이 결정하는 행동이 다른 개인의 결정에 영향을 받게 된다. 이득과 손실의 합이 제로가 되는 제로섬게임(zero-sum game)과 모두 이득이나 손실을 볼 수 있는 넌 제로섬게임(Non Zero - sum game)이 가장 대표적인 게임이론이다. 이 중 넌 제로섬게임(Non Zero - sum game), 즉 2명이 참가하는 비 제로섬게임에서 협력을 통해 서로 이익이 되는 상황이 아닌 불리한 상황을 선택하는 행동에서 죄수의 딜레마는 시작된다. 공범자 A와 B가 고문실로 잡혀왔다. 물증은 없으나 상황적/심리적 확증이 있는 상태에서 자백을 받아내는 것이 이들의 범죄를 해결하는 데 가장 유력한 방법이다. 하지만, A와 B 둘 다 순순히 자백하지 않을 것이다. 이 때, 이 둘을 각각 다른 방에 위치시키고 심문을 한다. A에게는 “A자신과 B의 범행을 자백하면 A에게는 가벼운 형량을 줄 것”이라고 말하고, B에게도 같은 방식으로 공범을 인정하면 B 자신에게는 가벼운 형량을 제안한다. 결국, A와 B는 각각 다른 방에서 (자신의 형량을 줄이기 위해) 자백을 할 것이고, 이는 결국 A와 B 모두에게 최악의 결과를 초래한다. A와 B의 결과는 네 가지로 나올 수 있다. 구 분 죄수 B의 침묵 죄수 B의 자백 죄수 A의 침묵 ①죄수 A, B 각자 6개월씩 복역 ②죄수 A 10년 복역, 죄수 B 석방 죄수 A의 자백 ③죄수 A 석방, 죄수 B 10년 복역 ④죄수 A, B 각자 5년씩 복역 A와 B가 침묵할 경우, 이 둘에게 가장 좋은 ①안의 결과가 나온다. 하지만, 이 둘을 각 방에 따로 불러 ②, ③안의 결과를 미리 제시한다면, A, B는 둘 다 자백을 할 테고, 이는 둘에게 가장 안 좋은 ④안의 결과를 낳게 된다. 이 게임의 죄수는 상대방의 결과는 고려하지 않고 자신의 이익만을 최대화한다는 가정 하에 움직이게 된다. 이때 언제나 협동(침묵)보다는 배신(자백)을 통해 더 많은 이익을 얻으므로 모든 참가자가 배신(자백)을 택하는 내쉬 균형(Nash equilibrium) 상태가 된다. 상대방의 선택에 상관없이 자백을 하는 합리적 선택은 결국 둘 모두 5년을 복역하는 결과를 낳고, 이는 둘 다 자백하지 않고 6개월을 복역하는 것보다 훨씬 더 나쁜 결과가 된다.   이 실험에서 둘 다 협동할 때 양자모두에게 가장 유리한 결과가 돌아온다 그럼에도 불구하고 피험자들은 일반적으로 강력한 경쟁 경향을 보였다. 많은 연구에서 피험자들은 단지 전체 1/3 정도만이 협동을 선택하였으며, 게임이 계속될수록 협동을 선택하는 빈도는 줄어 들었다. 협동보다 경쟁이 더 빈번하게 선택되는 가장 큰 원인은 단일 또는 단시 상황에서 경쟁이 다 이익이 되기 때문이다. 해결은 있다. A와 B가 자신의 합리적인 선택을 배제하고, 서로를 확실히 믿게 된다면 ①안을 선택할 것이고, 이는 딜레마에서 벗어나는 결과를 낳는다. 하지만 과연 현실에서 가능할까? 20세기 전반 냉전 시기에 미국을 중심으로 한 정치, 경제, 과학 분야에서 가장 핵심적인 역할을 한 천재 수학자 존 폰 노이만은 자신의 저작『죄수의 딜레마』에서 다음과 같이 언급했다. “완벽한 의사소통과 완벽한 정직성이 있는 세계는 죄수의 딜레마가 없는 세계다. 그러나 그것은 우리가 살고 있는 세계가 아니다” ‘죄수의 딜레마’나 ‘게임 이론’은 현재에도 정치 · 경제 · 외교 분야에서 발생되는 다양한 갈등에 대한 연구 기반으로 쓰이고 있다. 전쟁을 포함한 모든 경쟁에서 이기는 방법과 인간의 합리적 선택이 낳는 딜레마적 결과를 예측하고 정책을 세운다. 하지만, 이러한 이론을 바탕으로 성립된 전략들이 과연 정의로운 사회 구현에 보탬이 될 수 있을지는 의문이다.