Если мы сразу зададим вопрос "Что такое предубеждение?" - то не сможем сформулировать на него внятного ответа. Как сказано в пословице, "Есть 40 типов безумия, и только один тип здравого смысла". Истина - точечная цель, маленький кусочек огромного пространства возможностей. "Любит, не любит?" - может быть вопросом с двумя вариантами ответа, но E=MC^2 - крохотная точка в огромном пространстве уравнений, как победный лотерейный билет среди всех лотерейных билетов. Ошибка не является исключительной ситуацией; успех - является. Успех настолько неправдоподобен априори, что нуждается в объяснениях.

Мы говорим, что должны "избегать предубеждений" не на том основании, что предубеждения - плохо, зло и Не Должны Быть. Подобные основания зачастую происходят из этического долга "рациональности", привитого обществом, коий, в свою очередь, ведет к попыткам применения техник без понимания причин их применения. (Что есть плохо, зло и Не Должно Быть, согласно книге "Вы, конечно, шутите, мистер Фейнман".)

Скорее, мы хотим получить определенную истину, неважно для чего, и, в процессе, находим различные препятствия к ее обретению. Некоторые из них схожи друг с другом, как например, препятствия, связанные с недостатком вычислительной мощи или другие, связанные со стоимостью информации. Можно заметить, что существенная группа препятствий имеет нечто общее - образуя некий кластер в пространстве препятствий-к-истине - и этот кластер мы называем "предубеждения". Что есть предубеждение? Можем ли мы посмотреть на этот эмпирический кластер, и составить компактный тест на членство? Возможно, мы обнаружим, что не можем дать иного объяснения, кроме как указать несколько примеров, в надежде на понимание слушателя. Если представить себя ученым, только начавшим изучать огонь, гораздо мудрее указать на огонь, говоря "Огонь - это вон та горячая ярко-оранжевая штука", нежели говорить "Я определяю огонь, как алхимическое превращение веществ, которое выделяет флогистон". Как было сказано в эссе "The Simple Truth", не стоит игнорировать что-либо на основании невозможности его определения. Я не смогу процитировать уравнения теории Общей Относительности, однако, прыгнув с обрыва, я упаду. Тоже самое можно сказать о предубеждениях - они не станут влиять на нас меньше от того, что мы не можем определить их компактно. Так, мы можем привести в пример заблуждения связности, переоценку себя, эвристики доступности и представительности, общий уровень небрежности, сказав "предубеждения похожи на это".

Учитывая сказанное, обычно мы называем "предубеждениями" препятствия к истине, проистекающие не из нехватки вычислительной мощи или иных ресурсов, а из нашей структуры мышления, как таковой. Часть структур были эволюционно оптимизированы под задачи весьма далекие от точности познания; к таковым относится, например, структура для побед в политических спорах. Местами, "нормы общества" идут вразрез с точностью познания; например, считается нормальным верить в то, во что верят другие. Или, существуют структуры эвристики, работающие по заданному алгоритму, которые, несмотря на работоспособность, систематически производят ошибки: так, эвристика доступности сама по себе не является предубеждением, однако от нее происходит целый класс опознаваемых, доступных для компактного описания, предубеждений. Наши мозги делают что-то не так и после множества экспериментов и/или серьезных размышлений, кто-то определяет проблему в терминах, подходящих для Системы 2; после этого мы называем ее "предубеждением". Даже если мы не можем предложить лучшего алгоритма для определения, это все равно различимый класс проблем, проистекающий из определенного рода когнитивных структур - не из недостатки оных структур, но из них самих. "Предубеждения" отделяются от ошибок, проистекающих из когнитивного материала, таких, например, как принятые поверья, или принятый же этический долг. Их мы называем "ошибками", а не "предубеждениями", и их гораздо легче скорректировать, однажды отметив их для себя. (Впрочем, источником таких ошибок, или источником источника таких ошибок, может быть и некоторое "предубеждение").

"Предубеждения" отделяются и от ошибок, происходящих из повреждений конкретного человеческого мозга, а также от ошибок, завязанных на культурные обычаи; предубеждения возникают из структур, которые универсальны в пределах человеческого вида. Платона нельзя назвать "предубежденным" на основании того, что он не учитывал Общую Теорию Относительности - у него не было никакого способа знать о ней, и его неведение проистекало не из его образа мыслей. Но если Платон верил, что из философов получатся лучшие короли на основании того, что он - философ - и эта вера, в свою очередь, возникла из универсального инстинкта самовозвышения, а не из привитого отцом этического долга ставить правление - вершиной достижений в любой профессиии, и не из увлечения токсикоманией в детстве - тогда это было предубеждение, вне зависимости от того, знал об этом сам Платон, или нет. Исправление предубеждений может быть весьма дорого, и даже - невозможно в принципе. Но когда мы смотрим на собственные структуры разума, и видим нечто, являющееся причиной для выделяемого класса ошибок; когда эти ошибки проистекают не из недостатка структуры, и не из специфики вещей, а из свойств самой структуры - тогда мы называем эту причину предубеждением. Лично я нахожу задачу по улучшению персональных навыков рациональности, в улучшении техники поиска истины. Вызов - в достижении истины, а не в избегании ошибок. Пространство ошибок громадно, бесконечные ошибки в бесконечных вариациях. Тяжело даже оценить его размеры: "Что верно для одного яблока, может быть неверно для другого; поэтому об одном яблоке может быть сказано больше, чем о всех яблоках сразу." Пространство успехов гораздо мельче, поэтому гораздо больше можно сказать о нем. Хоть я и не избегаю полностью (как вы можете видеть) обсуждения определений, мы должны помнить, что это не является нашей основной целью. Мы здесь для того, чтобы следовать пути истины: мы отчаянно нуждаемся в знаниях и, кроме того, мы любопытны. Давайте же стараться преодолевать любые препятствия, возникающие на этом пути, вне зависимости от того, называем мы их "предубеждениями", или нет.