Эвристики и искажения (Канеман: System 1 / 2) — основание решений

0Суть в одном абзаце

Это не этическая система, а дескриптивно-корректирующая рамка: описывает, на что решение опирается на самом деле, и как это чинить. Большинство суждений выносит System 1 — быстрая, автоматическая, бессознательная, не требующая усилий машина интуиций; System 2 — медленная, произвольная, усилийная — лишь изредка вмешивается и чаще «визирует» уже готовый вердикт. System 1 экономит силы через эвристики (умственные ярлыки), но они дают систематические, предсказуемые ошибки — когнитивные искажения. Тверски и Канеман: «Люди опираются на ограниченное число эвристических принципов, которые сводят сложные задачи оценки вероятностей и предсказания значений к более простым операциям суждения. В целом эти эвристики весьма полезны, но иногда ведут к серьёзным и систематическим ошибкам» («Judgment under Uncertainty», Science, 1974). Термины «System 1 / 2» ввели Станович и Уэст; Канеман их перенял.

1На чём держится (rationale)

• Ограниченная рациональность (bounded rationality, наследие Саймона). У внимания, памяти и времени есть бюджет; мозг по умолчанию выбирает дешёвое «достаточно хорошее», а не полный расчёт.
• Подмена вопроса (substitution). Столкнувшись с трудным вопросом («какова вероятность X?»), System 1 незаметно отвечает на лёгкий смежный («насколько X легко вспоминается / похож на образец?») — и выдаёт ответ как будто на исходный.
• WYSIATI («What You See Is All There Is»). System 1 строит связную историю из наличной информации, не замечая дыр. Когерентность ощущается как истинность; уверенность рождается из связности рассказа, а не из полноты данных.
• Эмпирическая база. Не философское допущение, а лабораторно воспроизводимые эффекты (хотя часть из них пострадала в «кризисе воспроизводимости» 2010-х — см. §5).

2Как превращается в решение (decisionRule)

Считай интуитивный ответ черновиком, а не вердиктом. Для важного, нового, необратимого или эмоционально заряженного выбора переключись с System 1 на System 2: замедлись, назови вероятную эвристику, возьми «внешний взгляд» и базовые частоты, рассмотри противоположное — и только потом решай.

Алгоритм: (1) Замечай триггеры System 1: спешка, сильная эмоция, лёгкость/беглость («очевидно же»), якорь-число рядом. (2) Назови ловушку — это якорение? доступность? репрезентативность (игнор базовой ставки)? рамка? (3) Внешний взгляд — как обычно идут дела в подобных случаях у других (reference-class forecasting)? (4) Pre-mortem — «прошёл год, решение провалилось; почему?» (5) Для рутинного/обратимого — доверься System 1 (она быстра и часто права); экономь System 2 на ставках, где ошибка дорога.

3Что учитывает (inputs)

Тип задачи (рутинная/новая, обратимая/нет, ставка); сигналы беглости и эмоции; базовые частоты и статистика (а не яркость примера); внешний взгляд и контрпримеры; собственная неуверенность (калибровка). НЕ должно решать за тебя: первое впечатление, случайный якорь, лёгкость припоминания, желаемый исход.

4Сильные стороны

• Реализм. Описывает решения такими, какие они есть, — а не идеализированного «рационального агента». Объясняет, почему умные люди систематически ошибаются одинаково.
• Операбельность. Даёт конкретные приёмы дебайесинга: чек-листы, внешний взгляд, pre-mortem, разнесение оценок во времени, «рассмотри обратное».
• Универсальность входа. Метарамка: улучшает работу любой другой рамки (консеквенциалист, считающий исходы, и стратег из теории игр оба переоценивают свою System-2-способность).
• Защита от манипуляции. Зная якорение, рамку и доступность, труднее быть разведённым рекламой, переговорщиком, новостной лентой.

5Слабые стороны / failure modes

• Дескриптивное ≠ нормативное. То, что интуиция предвзята, не говорит, что правильно; рамка чинит процесс, но не задаёт ценности и цели.
• «Bias bias» / гиперкоррекция. Можно объявить любое чужое суждение «искажением» и отмахнуться; ярлык становится оружием в споре, а не инструментом самопроверки.
• System 2 тоже ошибается и ленива («ленивый контролёр»): рефлексия часто лишь сочиняет пост-фактум оправдание интуиции (мотивированное рассуждение). Замедление не гарантирует правоты.
• Кризис воспроизводимости. Часть эффектов (особенно прайминг, на котором держались главы «Thinking, Fast and Slow») плохо реплицировалась; сам Канеман в 2017 признал, что переоценил их прочность. Якорение, доступность, loss aversion, рамка устояли лучше.
• Экологическая критика (Гигеренцер). В естественной среде «быстрые и экономные» эвристики часто точнее сложных моделей; «искажение» в лаборатории бывает артефактом формулировки, а не дефектом ума.

6Примеры

• Жизнь — planning fallacy: Сиднейский оперный театр — старт 1959, оценка готовности к 1963 за ~7 млн A$; реально открыт в 1973 за ~102 млн A$. Канеман: лечится «внешним взглядом» (как шли похожие проекты), а не оптимизмом изнутри.
• Жизнь — якорение: на переговорах первая названная цифра «притягивает» итог, даже если она произвольна. Доступность: после репортажа об авиакатастрофе люди боятся летать и садятся за руль — статистически более опасный — потому что яркий случай легче вспоминается.
• Жизнь — репрезентативность (задача про Линду): «Линда — кассир и феминистка» кажется вероятнее, чем просто «кассир», хотя это логически невозможно (конъюнкция ≤ части) — System 1 судит по сходству с образом, игнорируя вероятность.
• Вымысел — WYSIATI и подтверждение (DLC → Characters): Отелло: Яго подсовывает обрывки «улик» (платок), и Отелло достраивает связную ложную историю, не замечая дыр; уверенность растёт из когерентности рассказа, не из фактов — учебный WYSIATI + confirmation bias.
• Вымысел — дебайесинг в действии: «Двенадцать разгневанных мужчин»: присяжный №8 силой переводит коллег с System-1-вердикта («виновен, очевидно») в System-2-разбор — берёт базовые сомнения, проверяет якоря свидетелей, «рассматривает обратное». Это и есть переключение режимов.
• Анти-пример (Script Studio): герой-игрок, догоняющий проигрыш (sunk cost + неприятие потери) — каждое следующее решение принимает System 1 под болью утраты, рационализируя «отыграюсь»; драйвер падения.

7Связи (DLC / cross-studio)

• servesStudios: reasoning (метарамка качества решений и дебайесинг), characters (драйвер реалистичных импульсивных/самообманных решений и арки прозрения), philosophy (дуальные процессы, ограниченная рациональность, спор Канеман↔Гигеренцер).
• similarTo / seeAlso: moral-intuitions (Хайдт) — его «слон и наездник» это и есть System 1/2, прилож`енные к морали; Хайдт прямо строит на этой дуально-процессной традиции. Здесь — общий когнитивный механизм, там — его моральное приложение.
• compatibleWith: pragmatism (фаллибилизм, «проверь делом и пересмотри» = калибровка и обратная связь), stoic-dichotomy-of-control (само-регуляция System 2 над импульсом).
• conflictsWith / напряжение: идеализированно-рациональные рамки — consequentialism («посчитай исходы»), game-theory-basis («вычисли лучший ответ»), рациональный egoism — все предполагают вычислительную мощь System 2, которую люди редко включают; H&B показывает их дескриптивный предел.
• forward-links (будущие записи очереди): loss-aversion и temporal-discounting — частные искажения (неприятие потери из prospect theory; гиперболическое дисконтирование) получат отдельные досье; здесь они — подвиды.
• metaphor (DLC → Metaphor Studio): «слон и наездник» / автопилот и пилот; «два седока одного ума».

8Источники

• A. Tversky, D. Kahneman, «Judgment under Uncertainty: Heuristics and Biases», Science 185(4157):1124–1131, 27 сент. 1974 (репрезентативность, доступность, якорение; цитата §0).
• D. Kahneman, A. Tversky, «Prospect Theory: An Analysis of Decision under Risk», Econometrica 47(2):263–291, 1979 (неприятие потери, опорная точка, взвешивание вероятностей).
• D. Kahneman, Thinking, Fast and Slow (2011) — System 1/2, WYSIATI, подмена, planning fallacy, peak-end.
• K. E. Stanovich, R. F. West (2000) — авторство терминов «System 1 / System 2» (Канеман их перенял).
• Нобелевская премия по экономике 2002 — Канеман (Тверски умер в 1996, посмертно не присуждается).
• G. Gigerenzer, «Fast and Frugal Heuristics» — экологическая критика (эвристики как адаптивно точные).
• Stanford Encyclopedia of Philosophy: «Bounded Rationality», «Heuristics» (контекст Г. Саймона).