제한된 합리성 (Bounded Rationality) 멘탈 모델

“The bounded rationality of each actor in a system may not lead to decisions that further the welfare of the system as a whole.” “시스템 내 각 행위자의 제한된 합리성은 전체 시스템의 후생을 증진하는 결정으로 이어지지 않을 수 있다.” — Donella Meadows

개요

Herbert Simon이 제안하고 Donella Meadows가 시스템 사고의 핵심 개념으로 발전시킨 제한된 합리성은 인간이 완전한 정보와 무한한 인지 능력을 가진 합리적 존재(homo economicus)가 아니라, 제한된 정보와 제한된 인지 능력 안에서 ‘만족할 만한’(satisficing) 결정을 내리는 존재라는 관점이다.

Meadows는 이 개념을 단순한 인지심리학적 발견에 머물지 않고 시스템이 예상치 못한 행동을 하고, 좋은 의도의 결정이 끔찍한 집계 결과를 낳는 근본 원인으로 격상시켰다.

역사적 맥락: 아담 스미스의 보이지 않는 손 vs 보이지 않는 발

Adam Smith가 18세기에 제안한 보이지 않는 손(Invisible Hand) 은 시장의 각 참여자가 자신의 이익만 추구해도 전체의 이익이 실현된다는 낙관적 가정이었다:

“As every individual, therefore, endeavours as much as he can … to direct that industry that its produce may be of greatest value … he intends only his own gain, and he is in this … led by an invisible hand to promote an end which was no part of his intention.” “각 개인은 … 오직 자신의 안전만을 의도하고 … 오직 자신의 이득만을 의도한다. 그러나 그는 … 보이지 않는 손에 이끌려 자신의 의도에 없던 목적을 달성하게 된다.” — Adam Smith, The Wealth of Nations (1776)

이 가정은 두 가지 전제에 기반한다:

homo economicus는 완전한 정보 위에서 최적의 결정을 내린다
이 최적 결정들의 합이 모두를 위한 최상의 결과를 만든다

그러나 세계는 이 두 전제가 모두 성립하지 않음을 증명해왔다. 관광객은 와이키키나 체르마트로 몰려가 “관광객으로 망가진” 그곳을 불평한다. 농부는 밀·버터·치즈를 과잉 생산하고 가격은 폭락한다. 어부는 남획하여 스스로의 생계를 파괴한다. 기업은 집단적으로 투자 결정을 내려 경기 순환을 악화시킨다.

World Bank 경제학자 Herman Daly는 이 현상을 “보이지 않는 발(Invisible Foot)” 이라고 불렀다 — 개인의 합리적 행동이 발로 전체를 걷어차는 역설. Nobel상 경제학자 Herbert Simon이 이 메커니즘에 붙인 이름이 바로 제한된 합리성이다.

Adam Smith의 보이지 않는 손은 시장이 잘 작동할 때를 설명한다. Herman Daly의 보이지 않는 발은 시장이 실패할 때를 설명한다. bounded rationality는 그 실패의 메커니즘이다.

핵심 내용

의사결정자의 다섯 가지 제약

의사결정자는 다음의 제약 아래에서 합리적으로 행동한다:

제약	설명	시스템적 영향
불완전한 정보	시스템의 먼 부분(타인의 행동, 미래 상태)에 대한 정보가 없다	어부는 오늘 잡은 고기만 알고, 전체 어족 자원을 모른다
지연된 정보	과거 데이터만으로 현재 결정을 내려야 한다	기업은 작년 시장 점유율만 알고 올해 투자 규모를 결정한다
제한된 인지 용량	여러 변수를 동시에 추적할 수 없다	경영자는 가격·생산·마케팅·R&D를 한꺼번에 최적화할 수 없다
현재 편향(present bias)	과거보다 최근 경험에 과도한 가중치를 둔다	최근 호황에 취해 과잉 투자, 최근 불황에 과소 투자
미래 할인(future discounting)	미래의 보상을 비합리적으로 낮게 평가한다	단기 이익에 집중하고 장기적 지속 가능성을 무시한다

Satisficing: 만족할 만한 선택

Simon이 제안한 핵심 메커니즘. 인간은 가능한 모든 대안을 평가해 최적(optimal) 을 찾는 대신, 미리 정한 기준을 충족하는 첫 번째 대안을 찾으면 멈춘다:

“We are not omniscient, rational optimizers. Rather, we are blundering ‘satisficers,’ attempting to meet (satisfy) our needs well enough (sufficiently) before moving on to the next decision.” “우리는 전지적이고 합리적인 최적화자가 아니다. 오히려 우리는 어설픈 ‘만족자(satisficer)‘로서, 다음 결정으로 넘어가기 전에 우리의 필요를 충분히(satisfy + sufficiently) 채우려고 애쓸 뿐이다.” — Herbert Simon

우리는 장기적 최적해를 찾기보다 당장 살 수 있는 선택을 찾고, 그것에 안주하며, 강제로 변화해야 할 때만 행동을 바꾼다.

결정적 사례: 네덜란드 전기 계량기

Meadows가 이 개념을 설명하기 위해 제시한 가장 강력한 일화:

암스테르담 근처의 한 단지에 거의 동일한 단독주택들이 있었다. 거의 — 완전히 같지는 않았다. 어떤 집은 전기 계량기가 지하실에 있었고, 어떤 집은 현관 복도에 있었다. 1970년대 초 석유 금수 사태와 에너지 위기 당시 주민들은 갑자기 전기 사용량에 주목하기 시작했다. 놀랍게도 지하실 계량기 그룹은 현관 계량기 그룹보다 1/3 더 많은 전기를 사용하고 있었다. 가격도 같고, 가족 구성도 비슷했다. 유일한 차이는 계량기의 위치였다. 지하실 계량기는 사람들이 거기 내려갈 때만 보지만, 현관 계량기는 지나칠 때마다 작은 바퀴가 돌아가며 전기 요금이 쌓이는 것을 수시로 보여주었다.

이 사례의 교훈:

누구도 나쁜 사람이 아니다. 시스템이 정보를 적절한 위치에 전달하지 못한 것이다.
의사결정자의 ‘합리성’은 가용한 정보의 질과 양에 의해 결정된다
정보 흐름의 개선만으로도 행동을 극적으로 바꿀 수 있다 (여기서는 전기 사용량 33% 감소)

시스템 트랩과의 연결

제한된 합리성은 여러 시스템 아키타입과 정책 실패 패턴의 근본 원인이다:

아키타입	제한된 합리성 메커니즘
공유지의 비극	각 어부는 자신의 수익만 보고 판단, 전체 어족 자원은 고려 대상이 아님
정책 저항	각 이해관계자가 자신의 목표만 추구, 전체 시스템은 표류
확전(arms race)	각 측이 상대의 직전 행동에만 반응, 전체적 파괴를 보지 못함
성과 기준 하향 표류	과거의 자신을 기준으로 삼아 점진적으로 기준이 낮아짐
중독 구조	단기적 완화(약물·도박)가 장기적 악화를 낳지만, 당장의 고통만 볼 수 있음

심리학·인지과학과의 연결

제한된 합리성은 단순히 ‘정보 부족’의 문제가 아니다. 인지적 편의와 앵커링 같은 인지 편향이 정보 해석 자체를 왜곡한다:

이중처리 이론 (Kahneman): System 1(직관)은 노력이 적지만 편향에 취약하고, System 2(분석)은 정확하지만 느리고 피로하다. bounded rationality는 System 1 의존도를 높이는 환경에서 더 심화된다.
가용성 휴리스틱: 최근 경험에 과도한 가중치를 두는 현재 편향은 bounded rationality의 대표적 인지 메커니즘이다.
오류 관리 이론: 비대칭적 오류 비용(FP vs FN) 아래에서 불완전한 정보로 결정을 내리는 전략은 bounded rationality의 진화적 버전이다.
인센티브 편향(Munger): 자신의 인센티브에 따라 정보를 선택적으로 보고 해석하는 현상 — bounded rationality를 더 악화시킨다.
사회적 증거(Munger): 타인의 행동을 정보의 대리물로 사용할 때, 집단적 오류가 전파된다.

시스템 사고 × 인지 편향 합성 페이지에서 bounded rationality의 인지심리학적 토대와 시스템 사고의 교차점을 더 깊이 다룬다.

조직·정치와의 연결

제한된 합리성은 개인의 인지 한계를 넘어 조직과 정치 구조에도 내재한다:

Allison의 의사결정 모형: 정부 의사결정을 분석하는 세 가지 렌즈 중 조직 행태 모형(Model II)과 정부 정치 모형(Model III)은 조직의 표준 운영 절차와 정치적 타협이 완전한 합리성을 어떻게 제한하는지 보여준다.
합리적 행위자 모형(Model I): 이 모형이 설명하는 것처럼 행동하지 않는다는 것이 bounded rationality의 핵심 주장이다.
의도된 전략과 창발적 전략(Mintzberg): 전략 기획의 합리적 모델에 대한 비판은 bounded rationality의 조직적 버전이다. 전략은 계획보다 환경에 대한 반응으로 창발(emerge)한다.
책임의 대칭성(Taleb): 의사결정자가 자신 결정의 결과를 직접 부담하지 않을 때, bounded rationality의 부정적 효과가 증폭된다.

극복 방법: 개인이 아니라 시스템을 재설계하라

Meadows의 핵심 메시지는 개인을 비난하는 것이 아니라 시스템을 재설계하는 것이다. Zimbardo의 스탠퍼드 교도소 실험(Stanford Prison Experiment)은 이것을 극명하게 보여준다 — 평범한 대학생이 특정 위치(간수/죄수)에 배치되자 순식간에 그 역할의 태도와 행동을 채택했다. 개인을 바꾸는 것이 아니라 정보·인센티브·목표의 구조를 바꾸는 것이 해결책이다.

“God grant us the serenity to exercise our bounded rationality freely in the systems that are structured appropriately, the courage to restructure the systems that aren’t, and the wisdom to know the difference!” “하나님이여, 제대로 구조화된 시스템에서는 우리의 제한된 합리성을 자유롭게 행사할 평온함을, 그렇지 않은 시스템은 재구조화할 용기를, 그리고 그 차이를 알 지혜를 주소서!” — Donella Meadows (평화 기도 패러디)

Meadows의 구체적 처방

더 좋고, 더 완전하며, 더 시의적절한 정보 흐름 구축 — 네덜란드 전기 계량기 사례가 증명하듯, 같은 정보를 같은 사람에게 더 자주 보여주는 것만으로도 행동이 바뀐다.
인센티브와 목표를 전체 시스템의 후생과 일치하도록 재구성 — 인센티브 편향을 무효화하는 방향으로 설계.
의사결정자가 자신 결정의 결과를 직접 경험하게 하는 구조 — 내재적 책임(skin in the game)의 시스템적 구현.
단일 위치에서 보이는 국소적 정보를 넘어 전체적 관점(overview) 확보 — 시스템의 구조와 상호작용을 한눈에 볼 수 있는 거버넌스 체계 구축.

관계	페이지
출처	Thinking in Systems
파생	Thinking, Fast and Slow (Kahneman)
연결	시스템 사고 × 인지 편향 합성
시스템 기초	시스템 사고 개념
시스템 원인	시스템 아키타입
시스템 원인	공유지의 비극
시스템 원인	정책 저항
시스템 개입	레버리지 포인트
시스템 구조	피드백 루프
인지심리	이중처리 이론
인지심리	인지적 편의
인지심리	가용성 휴리스틱
인지심리	앵커링 효과
인지심리	오류 관리 이론
행동경제학	인센티브 편향
행동경제학	사회적 증거
행동경제학	과잉 낙관 경향
조직/전략	의도된 전략과 창발적 전략
조직/전략	Allison의 세 의사결정 모형
조직/전략	조직 행태 모형
리스크	의원성 피해 및 순진한 개입주의
리스크	책임의 대칭성
리스크	사후적 예견의 오류