여러 사람이 전략을 세워 게임할 때 내가 취해야 할 ‘최적의 전략’이란 것이 과연 존재할까. 최적의 전략이 존재하고 내가 그것을 찾을 수 있다면 게임에서 항상 지지 않고 이득을 얻을 수 있을 텐데 말이다. 이 문제는 오랫동안 20세기 수학자들의 골칫거리였다.
미국 프린스턴대 수학과 존 내시는 여러 사람이 함께 게임할 때 사람들은 자신의 이익이 최대가 되기 위해 노력할 뿐 아니라 ‘내가 속한 집단 또는 우리 편의 이익이 최대가 되도록 노력한다’는 가정이 매우 중요하다는 사실을 깨달았다. 그는 이런 상황이라면 게임에서 ‘최적의 전략’이란 것이 존재할 수 있음을 증명하는 데 성공했다. 게임에 참여하는 다른 사람들의 전략이 주어졌을 때 굳이 바꿀 필요가 없는 가장 적절한 전략이 내 앞에 존재한다는 사실을 수학적으로 증명한 것이다. 이것이 항상 ‘최적’이라 할 순 없겠지만 굳이 바꿀 필요가 없는 전략이라면 주어진 상황에서 최선이라 할 수 있을 테니 말이다. 게임이론에서는 이것을 ‘내시 평형’(Nash equilibrium)이라고 부른다.
존 내시는 이 사실을 증명한 공로로 1994년 노벨경제학상을 받게 된다. 그가 이것을 증명하는 과정은 영화 ‘뷰티풀 마인드’에 매우 흥미롭게 그려져 있다.(배우 러셀 크로가 존 내시 역을 맡았다)
그렇다면 최근 신경과학자들 사이에 주목받고 있는 경제학 게임인 ‘최후통첩 게임’(Ultimatum game)에서 가장 합리적인 전략인 ‘내시 평형’은 과연 무엇일까. 영화 ‘본 얼티메이텀’의 제목에 나오는 바로 그 ‘얼티메이텀’이 들어가는 이 게임에서 얼티메이텀이란 자신의 메시지를 마지막에 상대방에게 던지는 ‘최후통첩’이란 뜻이다.
이 게임의 규칙은 매우 간단하다. 게임을 위해서는 두 명의 참가자가 필요하다. 한 명은 제안자, 다른 한 명은 반응자라고 부른다. 이 게임을 주재하는 사람이 제안자에게 1만 원을 건넨다.(10만 원이나 100만 원으로 해도 된다) 제안자가 하는 역할은 이 돈을 자기 몫과 상대방(반응자)의 몫으로 나누는 일이다. 자신이 6000원을 갖고 상대방에게 4000원을 줘도 좋고, 자신이 9000원을 갖고 상대방에게 1000원을 줘도 좋다. 이 비율을 정하는 사람은 제안자다.
제안자가 돈을 어떻게 나눌지 제시하면 반응자는 두 가지 선택이 가능하다. 제안자가 제시한 금액을 받아들이거나 거부하는 것이다. 반응자가 제안자가 제시한 금액을 받아들이면 두 피험자는 제안된 몫대로 나눠가지면 된다. 그러나 반응자가 제안을 거부하면 두 사람 모두 아무것도 받을 수 없다.
반응자는 제안자가 0이 아닌 이상 아무리 적은 금액을 제시해 오더라도 거절하는 것보다 무조건 받는 것이 이득이다. 다시 말해서 반응자의 내시 평형은 0이 아닌 어떤 금액을 제안 받는다면 이를 받아들이는 것이다. 따라서 제안자는 이런 상황에서 자신의 이득을 극대화하기 위해 상대방(반응자)에게 최소한의 금액만 제시하면 된다.
그러나 실제로 사람들의 행동은 내시 평형과 거리가 멀었다. 제안자는 자신의 몫과 반응자의 몫을 5대5로 나누겠다는 경우의 비율이 가장 많았고, 6대4나 7대3으로 나누겠다고 제안한 사람들의 비율까지 합하면 거의 80%가 넘었다. 반응자는 아무리 낮은 금액이라도 무조건 받는 것이 이득임에도 불구하고 8대2나 9대1로 나누겠다는 제안을 받으면 제안자의 제안을 매몰차게 거절하는 경우가 67%나 됐다. 그들은 왜 받는 것이 명백히 이익인 상황임에도 기대 이하의 금액이 제시되면 거절해서 둘 다 받지 못하게 하는 걸까.
fMRI로 의사결정시 뇌 반응 분석
이 질문에 답을 하기 위해 프린스턴대의 저명한 신경과학자인 조너선 코언과 그의 학생 앨런 샌피는 이 게임을 하는 동안 반응자를 기능성 자기공명영상(fMRI) 장치 안에 넣어 두고 9대1이라는 매우 불공정한 제안에 대해 받아들일지 여부를 결정할 때 뇌 활동 패턴을 촬영했다. 흥미롭게도 반응자가 제안을 받을 때와 거절할 때 뇌 활성 패턴은 매우 달랐다.
제안을 받아들이겠다고 결정하기 이전에 반응자의 뇌는 ‘전전두엽의 측배 쪽’(dorsolateral prefrontal cortex)이 매우 활성화 되는 양상을 보였다. 이 영역은 오래 전부터 합리적인 추론을 하는 영역으로 알려진 곳이다. 즉 10%만 가지라는 제안자의 제안이 불공정하더라도 그 제안을 받아들이는 것이 경제적으로 이익이라는 사실을 알고 그렇게 결정하는 반응자는 이 문제를 합리적으로 바라보는 사람이었던 것이다. 이 실험 결과는 우리에게 ‘내시 평형을 계산하는 영역은 측배 전전두엽’이라는 사실을 알려 주기도 하는 것이어서 신경과학적으로도 매우 의미 있는 연구라고 할 수 있다.(이 연구는 저명한 저널인 사이언스에 실렸다)
그러나 9대1의 제안을 거절한 반응자는 결정을 하는 동안 측배 전전두엽이 그다지 활발하게 활동하지 않았다. 오히려 인슐라(insula)와 전대상회피질(anterior cingulate cortex)이 크게 활성화 되었다. 인슐라와 전대상회피질은 무엇을 하는 곳일까. 인슐라는 ‘길을 가다가 바닥에 똥이 있을 때 또는 전봇대에 전날 술 취한 사람이 피자를 거하게 한 판 쏟아낸 걸 볼 때’ 활성화되는 부위다. 다시 말해서 역겨움이나 인간관계에서 얻는 고통이 표상되는 곳이다. 그들이 왜 제안을 받아들이지 않았냐고? 문자 그대로 ‘더럽고 치사해서’ 받지 않았다는 사실을 우리는 인슐라의 활성화 패턴으로 짐작할 수 있다.
정재승jsjeong@kaist.ac.kr
- (현) 카이스트 바이오 및 뇌공학과 부교수
- 미국 컬럼비아의대 정신과 교수
- 예일대 의대 정신과 연구원, 고려대 물리학과 연구교수
