합리적 선택, 정말 항상 최선일까? 잼 실험이 말해주는 것

며칠 전에 마트에서 그냥 잼 하나 사려다가 십 분을 서 있었다. 딸기잼만 종류가 여덟 개였다. 저당, 유기농, 수입산, 국내산, 씨 있는 것, 씨 없는 것. 결국 아무거나 집어 들고 나오면서 든 생각이 이거였다. 나는 방금 합리적인 선택을 한 걸까, 아니면 그냥 지쳐서 포기한 걸까.

경제학 교과서를 펼치면 답은 간단하다. 인간은 합리적이다. **주어진 정보 안에서 자신의 효용을 극대화하는 선택(**Rational Choice)을 한다. 그런데 그 “정보 안에서"라는 단서가 자꾸 마음에 걸렸다. 여덟 개 중에 고르는 것과 여든 개 중에 고르는 것이 같은 무게일 리가 없지 않나.

합리적 선택 이론이 원래 말하려던 것

일단 오해부터 풀고 가야 할 것 같다. 합리적 선택 이론은 사람이 항상 정답을 고른다고 주장하는 이론이 아니다. 합리적 선택 이론은 선택 과정을 설명하려는 게 아니라 선택의 결과와 패턴을 예측하려는 이론이다. 즉 “왜 그렇게 골랐는지"를 뇌 속까지 들어가서 밝히겠다는 게 아니라, 일관된 선호 체계만 있으면 어느 정도 예측 가능한 패턴이 나온다는 정도의 약속이다.

그 전제도 생각보다 단순하다. 개인은 대안들 사이에서 선호를 갖고 있고, 그 선호는 완결되며(둘 중 하나를 고르거나 무차별하다고 말할 수 있어야 함) 이행적이다(A를 B보다, B를 C보다 좋아하면 A를 C보다도 좋아해야 함). 여기까지만 보면 꽤 합리적인 요구처럼 들린다. 문제는 현실의 선택이 이 깔끔한 조건 안에서만 일어나지 않는다는 데 있다.

KDI 자료를 찾아보다가 흥미로운 문장을 봤다. 우리가 실제로 마주하는 선택은 굶을 것인가 배 터지게 먹을 것인가 같은 전부 아니면 전무의 형태가 아니라, 밥을 한 숟갈 더 먹을지 말지를 정하는 한계적 선택이라는 것이다. 그러니까 애초에 합리성이라는 것도 극단적인 두 선택지 사이에서 발휘되는 게 아니라, 아주 미세한 조정에서 매번 다시 작동해야 하는 셈이다. 이 미세 조정이 쌓이고 쌓이면, 어느 순간 뇌가 먼저 지쳐버리는 지점이 온다.

*## 잼 24종 vs 6종, 선택지가 늘면 왜 안 팔릴까

여기서 그 유명한 실험 얘기를 안 할 수가 없다. 스탠퍼드의 마크 레퍼와 컬럼비아의 쉬나 아이옌거가 마트에 시식 부스를 두 개 차렸다. 한쪽에는 잼 여섯 종류를, 다른 쪽에는 스물네 종류를 진열했다.

예상대로 사람들은 다양한 쪽으로 몰렸다. 스물네 가지 부스에는 지나가던 손님의 60%가 멈춰 섰고, 여섯 가지 부스에는 40%만 발길을 멈췄다. 여기까지는 상식과 일치한다. 선택지가 많으면 사람들이 더 끌린다.

그런데 실제 구매로 넘어가면 얘기가 완전히 뒤집힌다. 스물네 가지 부스에서는 방문객의 겨우 3%만 잼을 구매했지만, 여섯 가지 부스에서는 30%가 구매로 이어졌다. 숫자로 환산하면 열 배 차이다. 선택지를 늘렸더니 흥미는 늘고 실제 행동은 오히려 줄어든 것이다.

선택지 수에 따른 잼 시식 부스 관심도·구매율 비교

구분	잼 6종 부스	잼 24종 부스
부스에 멈춘 비율	40%	60%
실제 구매 비율	30%	3%

두 사람은 이 결과를 초콜릿으로도 다시 확인했다. 여섯 가지 초콜릿과 서른 가지 초콜릿을 두고 2개씩 맛보게 한 뒤 10점 만점으로 평가하게 했더니, 여섯 가지 부스의 평균 만족도는 6.25점, 서른 가지 부스는 5.5점이었다. 선택지가 더 많았던 쪽이 오히려 덜 만족스러웠다는 얘기다. 이쯤 되면 “선택지가 많을수록 좋다"는 직관 자체를 의심해봐야 하지 않을까 싶다.

왜 선택지가 늘면 오히려 나빠질까

이 현상에 이름을 제대로 붙인 사람이 심리학자 배리 슈워츠다. 그는 2004년 저서에서 선택지가 늘어날수록 사람들이 더 나은 결정을 내리는 게 아니라 오히려 결정을 내리지 못하거나, 결정 후 더 큰 후회를 경험한다고 주장했다.

메커니즘은 크게 두 갈래로 갈린다. 하나는 선택지가 너무 많으면 뇌가 과부하를 일으켜 아예 결정을 내리지 못하게 되는 경우이고, 다른 하나는 선택지가 많을수록 다른 걸 골랐으면 더 좋았을 거라는 후회가 커지는 경우다. 앞의 것은 결정 자체가 안 나는 문제고, 뒤의 것은 결정은 났는데 그 결정이 계속 마음을 갉아먹는 문제다. 성격은 다르지만 결과는 비슷하다. 만족감이 줄어든다.

이걸 극단으로 밀어붙이면 아예** 결정 자체를 포기하는 지점**까지 간다. 심리학에서는 이걸 분석 마비라고 부르는데, 더 나은 해결책을 포기하는 것에 대한 공포가 실제 예상되는 가치를 압도하는 상황에서, 기존 선택지를 보존하려는 무의식적 노력 속에 결정 자체가 억압되는 현상이라고 설명한다. 정리하자면, 정보가 부족해서 결정을 못 하는 게 아니라 오히려 정보와 선택지가 너무 많아서 결정을 못 하게 되는 셈이다. 합리적으로 따지려는 노력 자체가 합리적 선택을 방해하는 역설이 여기서 생긴다.

개인적으로는 이 대목에서 좀 뜨끔했다. 나는 뭔가를 고를 때 늘 “더 알아보면 더 나은 선택을 할 수 있다"고 믿어왔는데, 그 믿음 자체가 함정일 수 있다는 게 낯설었다.

만족자와 극대화자, 나는 어느 쪽일까

슈워츠는 사람들이 선택하는 방식을 두 가지로 나눴다. 모든 대안을 다 검토해서 최고의 것을 찾으려는 극대화자, 그리고 명확한 기준을 세워두고 그 기준을 충족하는 순간 선택을 마무리하는 만족자다.

재밌는 건 실제 성과에서 극대화자가 더 낫지 않다는 점이다. 오히려 투자 사례를 보면 최고의 종목을 찾으려는 극대화자보다 기준을 세운 만족자 쪽이 장기적으로 더 나은 성과를 낸다는 이야기가 나온다.** “어떤 게 최선인가"를 끝없이 파고드는 대신 “어떤 조건을 만족하면 되는가"로 질문을 바꾸는 순간, 오히려 더 잘 고르게 된다는 뜻**이다.

이건 좀 뒤집어 생각해볼 필요가 있는 것 같다. 우리는 흔히 “합리적으로 고른다"는 걸 “가능한 모든 옵션을 비교해서 최적점을 찾는다"는 뜻으로 이해한다. 그런데 그 완벽주의적 합리성이 오히려 결정을 지연시키고, 후회를 늘리고, 만족도를 떨어뜨린다면 — 그건 정말 합리적인 걸까, 아니면 합리성이라는 이름을 빌린 다른 무엇일까.

최후통첩 게임, 손해를 감수하면서까지 거절하는 이유

선택의 역설이 “너무 많은 선택지” 문제라면, 또 다른 결이 다른 사례가 있다. 게임이론에서 오래 다뤄온** 최후통첩 게임**이다. 룰은 단순하다. 한 사람이 돈을 어떻게 나눌지 제안하고, 상대는 그 제안을 받아들이거나 거절할 수 있는데, 거절하면 두 사람 다 한 푼도 받지 못한다.

순수하게 합리적으로만 따지면 답은 정해져 있다. 얼마를 제안받든 0원보다는 크니까 받아들이는 게 맞다. 실제로 게임이론에서 계산되는 균형점도 그렇다. 제안자가 자신에게 유리한 몫을 가져가도록 제안해도, 상대가 그 제안을 거절하면 오히려 아무것도 못 받는 셈이니 거절하지 않는 쪽이 이론상 맞는 선택이다.

그런데 실제 실험에서는 이 예측이 계속 빗나간다. “10만 원 중 1만 원을 받으라, 거절하면 둘 다 0원"이라는 제안을 두고, 전통 경제학은 1만 원이 0원보다 크니 받아들이는 게 합리적이라고 말하지만, 수십 년간 쌓인 실험 결과는 사람들이 돈만 계산하지 않는다는 걸 반복해서 보여준다. 사람들은 낮은 제안을 받아들이는 대신, 자신을 낮게 평가한 상대에게 그 거래는 성립하지 않는다고 말하기 위해 자기 몫까지 포기한다.

계산기로만 보면 완전히 비합리적인 행동이다. 그런데 조금만 다르게 보면, 이 사람들은 돈이라는 하나의 축만 최적화하고 있지 않을 뿐이다. 공정함이라는 다른 축을 함께 계산에 넣고 있는 거다. 이 실험은 임금 협상, 성과급, 플랫폼 수수료, 상속 분쟁, 인사 평가처럼 돈의 배분이 숫자만으로 끝나지 않고 존중과 지위, 권력관계가 함께 얽히는 현실의 축소판으로 다뤄진다.

여기서 궁금해지는 지점이 하나 생긴다. “합리적"이라는 말이 애초에 무엇을 최적화하느냐에 따라 완전히 다른 답을 낸다면, 대체 누구의 기준으로 합리성을 판단해야 하는 걸까.

그래서 합리적인 게 항상 최선일까

여기까지 오면 처음 질문으로 돌아가게 된다. 합리적 선택이 항상 최선의 선택이냐고 묻는다면, 적어도 세 가지 지점에서 그 등식이 깨진다고 말할 수 있을 것 같다.

첫째, 선택지가 늘어나는 것 자체가 판단력을 갉아먹는다. 정보를 더 모으고 대안을 더 검토하는 게 항상 더 나은 결정으로 이어지지 않는다. 잼 실험이 보여준 게 바로 이 지점이다.

둘째, 무엇을 최적화할지가 애매하다. 최후통첩 게임에서 보듯 사람들은 돈만이 아니라 공정함, 자존심, 관계 같은 걸 함께 저울질한다. 그러면 “합리적"이라는 단어 자체가 계산 항목이 하나가 아니라는 뜻이 된다.

셋째, 완벽을 좇는 태도 자체가 대가를 치른다. 극대화자가 만족자보다 더 나은 결과를 내지 못한다는 사례는, 합리성을 밀어붙이는 노력 자체에도 비용이 있다는 걸 알려준다.

그렇다고 합리성이 쓸모없다는 얘기는 아니다. 다만 합리적 선택 이론이 원래 겨냥했던 건 “선택의 결과를 예측 가능하게 만드는 것"이지, “언제나 최적의 답을 보장하는 것"이 아니었다는 걸 다시 확인하게 된다. 오늘 마트에서 여덟 개 잼 앞에서 십 분을 허비한 나도, 사실 그 순간엔 이미 지쳐서 아무 잼이나 만족자처럼 골랐던 셈이다. 그게 최선이었는지는 아직도 잘 모르겠다.