Аннотация: Перевод эссе Элизера Юдковского - What Do We Mean By "Rationality"? http://lesswrong.com/lw/31/what_do_we_mean_by_rationality/
Что мы имеем ввиду, говоря "Рациональность"?
Мы имеем ввиду:
Рациональность познания: верить, и обновлять свою веру таким образом, чтобы систематически улучшать соответствие между картой и территорией. Искусство приобретать убеждения, соответствующие реальности так близко, как только возможно. Оное соответствие обычно обозначается словом "истина" или "точность", и это - хорошее название для него.
Рациональность прикладную: достигать своих целей. Не обязательно "своих целей" в смысле эгоистичных или неразделенных целей - в смысле, любых целей, заявленных своими. Искусство выбора действий, направляющих будущее к исходам, предпочтительным в вашей системе ценностей (иначе, говоря, "выигрышным" исходам).
Если вам достаточно этих определений, на этом можно прекратить - в противном случае, продолжим.
Время от времени, экспериментальные психологи отмечают человеческие умозаключения, которые выглядят весьма странно - например, некоторые могут оценивать вероятность того, что "Билл играет джаз" ниже, чем вероятность того, что "Билл - бухгалтер, который играет джаз". Это выглядит странным суждением, так как любой, играющий джаз, бухгалтер - очевидно играет джаз. Но на основании чего мы говорим о том, что это суждение - ложно?
Экспериментальные психологи используют два золотых стандарта - теорию вероятностей и теорию принятия решений. Универсальный закон теории вероятностей гласит, что P(A) ? P(A & B), и на основании этого закона, утверждение P("Билл играет джаз" ) < P("Билл играет джаз" & "Билл - бухгалтер") помечается ложным.
Говоря техническим языком, мы можем сказать, что данное утверждение - не-Байесовское. Убеждения, соответствующие согласованным распределениям вероятностей, а также действия, увеличивающие вероятностное ожидание связанной функции "полезности", называются "Байесовскими".
Написанное недостаточно полно отвечает на вопрос - что мы обычно имеем ввиду, говоря "рациональность", по двум основным причинам:
Во-первых, Байесовские формализмы в своей полной форме не могут быть вычислены для большинства реальных проблем. Никто не может написать уравнение жизни, и следовать ему - также, как никто не может рассчитать биржевые сводки на основании движения кварков.
Именно поэтому, существует целый сайт "Less Wrong", а не некоторое собрание аксиом, знание которых давало бы "рациональность". Существует целое искусство нахождения истины и достижения целей внутри человеческого разума: мы должны уметь находить свои изъяны, переступать через предвзятости, удерживаться от самообмана, приходить в должное состояние духа, чтобы принять правду и делать то, что должно быть сделано, и так далее.
Во-вторых, иногда само применение математики ставится под сомнение. Точное применение правил теории вероятностей ставится под сомнение, например, в случае проблем, обусловленных влиянием человека, где количество наблюдателей не определено. Так же, точное применение правил теории принятия решений ставится под сомнение, например, в Парадоксе Ньюкома и похожих проблемах, в которых другие участники могут предсказывать ваше решение перед тем, как оно произойдет.
В подобных случаях, бесполезно пытаться решить проблему через нахождение новых определений слову "рационально", говоря "Я выбрал данный вариант решения, потому что он подходит под "определение" слова "рационально". Подобные действия сразу же поднимают вопрос, почему кто-то еще должен уделять внимание твоему определению. Теория вероятностей интересна не потому, что это святая вещь, переданная нам Лапласом. Мы заинтересованы в обновлении собственных убеждений "по Байесу"(с учетом Бритвы Оккама) потому, что мы предполагаем, что подобный стиль мышления способен систематически приблизить нас к, так сказать, точности - карте, которая действительно соответствует территории. (Больше о бесполезности споров об "определениях" здесь и здесь)
Далее, существуют вопросы типа "Как думать" - которые не могут быть отвечены в полной мере с помощью теории вероятностей или теории принятия решений - например, вопрос о том, что делать с истиной в момент осознания. И здесь, опять же, попытки переопределить слово "рационально" отнюдь не помогают решению вопроса, а лишь отдаляют это решение.
Как можно улучшить свое представление о рациональности? Не за счет убеждения себя "это мой долг - быть рациональным". Этим ты только углубляешь свое ошибочное представление. Возможно, твое понимание рациональности говорит о том, что это рационально - верить словам Учителя, и Учитель говорит "небо - зеленое", и ты смотришь на небо, и видишь голубой. И если ты думаешь: "Небо может выглядеть голубым, но рационально - верить словам Учителя", то теряешь шанс на нахождение своей ошибки.
Не стоит спрашивать, соответствует ли Пути то или иное действие. Стоит спросить, голубое небо, или зеленое. Много говорить о Пути - не есть Путь.
Вы можете попробовать именовать высший принцип именами навроде "карта, которая отражает территорию" или "опыт успехов и неудач" или "Байесовская теория принятия решений". Но возможно, вы неправильно описываете безымянную сущность. Как можно найти свою ошибку? Не сравнением описания с ним самим, но сравнивая с безымянным.
Мы здесь не для того, чтобы спорить о смысле слов, даже если это слово "рациональность". Цель связывания последовательностей букв с определенными смыслами - позволить двум людям взаимодействовать, помочь передать мысли из одного разума в другой. Невозможно ни изменить реальность, ни доказать какую-либо мысль за счет манипулирования означенными связями.
Таким образом, если наступило определенного рода понимание того, какой смысл обычно вкладывается в слово "рациональность", а также в понятия "рациональность познания" и "прикладная рациональность", мы уже провзаимодействовали - достигли всего, чего можно достичь, говоря о том, как стоит определять "рациональность". На этом можно закончить обсуждение того, какой смысл прикреплен к последовательности звуков "ра-ци-о-наль-ность", и перейти к обсуждению того, как рационально мыслить.
Стоит быть готовым к тому, что многие из нас назовут, как минимум, спорным, любое ненормативное применение слова "рационально".
Например, если ты говоришь "Рациональное убеждение - Х, но истинное убеждение - Y", то, вероятнее всего, ты используешь слово "рациональное" не в том смысле, который обычно вкладываем в него мы. (Некоторые из нас ожидают от "рациональности" сохранения целостности при отражении - то есть "рациональный взгляд на вещь" и "рациональное обдумывание означенной вещи" не должны вести к двум различным результатам). Похожим образом, если ты говоришь что-то вроде "Рациональным было бы выполнить действие Х, но правильно - выполнить действие Y", то, вероятно, ты используешь одно из слов - "правильно", или "рационально" в значении, с которым не согласится достаточное число людей.
В этом случае, а также в любых других случаях, где возникает спорность - полезно говорить о вещах более специфично, например: "Из соображений самосохранения стоит убежать, но, я надеюсь, я, как минимум, попытаюсь вытащить девочку с железнодорожных путей", или "Стандартная теория принятия решений говорит, что стоит забирать оба ящика в парадоксе Ньюкома, но я предпочту получить миллион долларов".
"Х - рационально!" - обычно не более, чем более резкий способ сказать "Я думаю, Х истинно" или "Я думаю, Х - хорошо". Тогда почему нужно дополнительное слово "рационально", так же как "истинно", или "хорошо"? Потому что мы хотим говорить о системных методах обретения истины и "выигрыша".
Слово "рационально" имеет свои минусы, но существует достаточное количество "не-граничных" случаев, в которых слово "рационально" позволяет достаточно точно передать, что мы имеем ввиду. Как и "иррационально", в сущности. В этих случаях, не стоит бояться использовать именно его.
Впрочем, стоит быть осторожным при использовании этого слова. Никто не начисляет очков просто за громкое его произнесение. Много говорить о Пути - не есть Путь.