Принцип наименьшего вреда / предосторожности — основание решений

0Суть в одном абзаце

Это семейство рамок объединяет одна асимметрия: избегание вреда весит больше, чем производство сопоставимого блага. Из неё растут три родственных правила. (1) Непричинение вреда (non-maleficence, «прежде всего — не навреди»): первый долг — не сделать хуже. (2) Минимизация вреда / меньшее зло (minimax): когда все варианты вредны, выбери тот, чей наихудший исход наименее тяжёл. (3) Принцип предосторожности: при угрозе серьёзного или необратимого вреда отсутствие полной научной определённости не оправдывает бездействие — действуй на упреждение, даже не имея доказательства. Общий девиз — не «как получить максимум хорошего», а «как не допустить непоправимо плохого».

1На чём держится (rationale)

• Асимметрия страдания и счастья. Карл Поппер в «Открытом обществе и его врагах» (1945) утверждал: устранение конкретного страдания морально приоритетнее приумножения счастья. Отсюда «негативный утилитаризм» — термин ввёл Р.Н. Смарт (1958). Боль реальна и адресна; «упущенное счастье» — гипотетично.
• Робастность под незнанием. Минимакс (Абрахам Вальд, 1950-е) не требует знания вероятностей: ты просто смотришь на худший исход каждого варианта и выбираешь «лучший из худших». Это устойчиво к ошибкам в оценке шансов — а под настоящей неопределённостью шансы и не известны.
• Необратимость как водораздел. Обратимую ошибку можно откатить; необратимую — нет. Поэтому к необратимому/катастрофическому вреду применяется особая осторожность: цена ложной тревоги конечна, цена пропущенной катастрофы — нет.
• Защита того, кто не выбирал. Вред часто несут не те, кто принимает решение (будущие поколения, природа, пациент, непричастные). Приоритет «не навреди» защищает безгласную сторону.

2Как превращается в решение (decisionRule)

Сначала спроси не «что даст максимум пользы», а «что здесь может пойти непоправимо плохо и кто это понесёт?». Взвесь предотвращение серьёзного/необратимого вреда выше сопоставимой выгоды; при реальной угрозе такого вреда действуй на упреждение, даже без полного доказательства; среди вредных вариантов выбери наименее вредный (minimax).

Алгоритм: (1) перечисли худшие исходы каждого варианта — включая бездействие; (2) отметь, какие из них серьёзны и необратимы и кто их несёт; (3) если есть угроза катастрофического/необратимого вреда — сместь бремя доказательства на того, кто хочет рискнуть, и заложи запас прочности; (4) выбери вариант с наименее тяжёлым худшим исходом; (5) сохрани обратимость и право на пересмотр, где можешь.

3Что учитывает (inputs)

Тяжесть и необратимость наихудшего исхода; кто несёт вред (особенно уязвимые и не давшие согласия); глубина неопределённости (не «маловероятно», а «не знаем»); цена ложной тревоги vs цена пропущенной катастрофы; вред бездействия (упущенная польза — тоже вред); обратимость выбора. НЕ ставит целью: максимум ожидаемой выгоды, средний исход, симметричное взвешивание плюсов и минусов.

4Сильные стороны

• Страхует от руина. Где downside асимметричен (катастрофа, вымирание, необратимость), осторожность важнее матожидания — нельзя усреднять с нулём.
• Работает в незнании. Минимакс не требует вероятностей; хорош там, где данных мало, а ставки высоки (новые технологии, экология, медицина, безопасность).
• Защищает безгласных. Уязвимые, будущие поколения, природа получают вес через приоритет «не навреди».
• Дисциплина смирения. Встроенное недоверие к собственным прогнозам и к соблазну «бабахнуть смело» — противоядие от самоуверенности и hubris.

5Слабые стороны / failure modes

• Паралич и несостоятельность (Санстейн). В сильной форме принцип «буквально бессвязен… он парализует: запрещает те самые шаги, которых требует» (Cass Sunstein, «Laws of Fear», 2005), ведь риски есть со всех сторон, и бездействие тоже опасно.
• Слепота к упущенной пользе. Запрет на лекарство/технологию из осторожности — это отложенные спасённые жизни и заблокированный прогресс; невидимый вред бездействия часто недооценён.
• Смещение к статус-кво и omission bias. Вред от действия кажется хуже равного вреда от бездействия; «не навреди» легко превращается в «не делай ничего нового».
• Reductio негативного утилитаризма. Если благо = только минимизация страдания, то «благожелательный взрыватель мира», способный безболезненно прекратить человечество, обязан это сделать (возражение Р.Н. Смарта). Чистая минимизация вреда схлопывается в самоуничтожение.
• Манипулируемость страхом. Рамку легко эксплуатировать loss-framing'ом и паникой; «серьёзный вред» и «необратимость» субъективны и растяжимы.

6Примеры

• Жизнь: медицина — «прежде всего не навреди»: не назначать рискованное вмешательство при лёгкой болезни (вред терапии может превысить вред недуга). Экология — мораторий или запрет вещества при угрозе необратимого ущерба ещё до полного доказательства причинности (логика Рио-15 и Вингспреда; так действовали по озоноразрушающим веществам). Инженерия — запасы прочности и fail-safe: «семь раз отмерь», проектируй под худший случай, а не под средний.
• Вымысел (DLC → Characters / Script Studio): Ян Малкольм в «Парке Юрского периода» — голос предосторожности: «ваши учёные так увлеклись вопросом, могут ли они, что не задумались, стоит ли» — создатели парка игнорируют необратимость и неконтролируемость риска ради выгоды и зрелища → катастрофа (нарушение принципа). Анти-пример в другую сторону — лидер, парализованный осторожностью: отказываясь от любого действия из страха навредить, он допускает предотвратимую беду (бездействие — тоже выбор с ценой; это и есть «паралич» по Санстейну).

7Связи (DLC / cross-studio)

• servesStudios: reasoning (рамка решений под риском/незнанием), characters (драйвер осторожного/риск-аверсного выбора и арки — от мудрого стража до парализованного страхом), philosophy (этика непричинения вреда, негативный утилитаризм, теория решений).
• compatibleWith: consequentialism (негативный утилитаризм — его асимметричный подвид), value-hierarchy (вред-избегание как лексически приоритетная ценность-порог), heuristics-biases (минимакс как робастная защита; loss-aversion — психологический «родственник»).
• conflictsWith: симметричная максимизация ожидаемой выгоды в consequentialism (least-harm отказывается торговать катастрофический/необратимый downside на прирост матожидания); смелое экспериментирование pragmatism там, где исход необратим (прагматизм любит обратимую пробу — а предосторожность срабатывает именно при невозможности отката).
• seeAlso: temporal-discounting (least-harm почти не дисконтирует будущий необратимый вред), loss-aversion (та же асимметрия как когнитивное искажение, а не норма).
• thinker: Гиппократ; Карл Поппер, Р.Н. Смарт; Абрахам Вальд, Леонард Сэвидж; Джон Ролз (maximin справедливости); Бичем и Чилдресс (non-maleficence); Касс Санстейн (критика) — даны в источниках, не дублируются отдельными записями.

8Источники

• Декларация Рио по окружающей среде и развитию (1992), Принцип 15: «Where there are threats of serious or irreversible damage, lack of full scientific certainty shall not be used as a reason for postponing cost-effective measures…».
• Wingspread Statement on the Precautionary Principle (Расин, Висконсин, 15.01.1998): «When an activity raises threats of harm to human health or the environment, precautionary measures should be taken even if some cause and effect relationships are not fully established scientifically» — «сильная» версия (бремя доказательства на инициаторе).
• Гиппократ, «Эпидемии», кн. I: врач должен «приносить пользу или по крайней мере не вредить»; латинское primum non nocere — не гиппократово, «изобретённая традиция» (приписано Сайденхему у Т. Инмана, 1860; в англо-амер. оборот ввёл W. Hooker, 1847).
• T. Beauchamp, J. Childress, «Principles of Biomedical Ethics» (1979) — non-maleficence как один из 4 принципов (автономия, непричинение вреда, благодеяние, справедливость).
• K. Popper, «The Open Society and Its Enemies» (1945) — асимметрия: приоритет минимизации страдания; R. N. Smart (1958) — термин «negative utilitarianism» и возражение «benevolent world-exploder».
• A. Wald (1950) — минимакс/maximin под жёсткой неопределённостью; L. J. Savage (1951) — minimax regret; J. Rawls, «A Theory of Justice» (1971) — maximin и difference principle.
• Cass R. Sunstein, «Laws of Fear: Beyond the Precautionary Principle» (2005) — критика: сильный принцип «paralyzing… it forbids the very steps that it requires»; предложение Anti-Catastrophe Principle + cost-benefit.