Двенадцать добродетелей рационалиста

Перевод наставления начинающим рационалистам “Twelve Virtues of Rationality”.

Об авторе: Элиезер Юдковский — математик, исследователь проблем дружественного искусственного интеллекта. Один из создателей сайта Less Wrong, посвящённого развитию рациональности человека и преодолению когнитивных искажений. Автор романа‑фанфика «Гарри Поттер и методы рационального мышления».

Вы можете загрузить этот текст в формате PDF: Twelve-Virtues-of-Rationality.pdf (160 downloads)

Обратите внимание! Комментарии выглядят примерно вот так: текст. Если в предыдущем предложении после слова «текст» вы не видите звёздочки, или при нажатии на неё ничего не происходит, скорее всего, у вас очень старый браузер, или отключен JavaScript. Для просмотра текста с комментариями, установите последнюю версию Google Chrome, включите JavaScript, или загрузите PDF‑версию статьи по ссылке выше.

Двенадцать добродетелей рационалиста

Первая добродетель — любопытство

Жгучий зуд любопытства влечёт человека к истине вернее торжественных клятв и волевых решений.

Подобно пламени, что рождается из топлива и искры, любопытство возникает там, где незнание сходится с желанием познать. Взгляни на двух искателей. Один уверен, будто уже знает истину. Другой же, зная о своём невежестве, не спешит его устранить. Ни один из них не достигнет многого на Пути, ибо без цели и направления всякое умение бесполезно.

Любопытство стремится уничтожить самое себя: нет любопытства, что не жаждет удовлетворения. Величие загадки в том, чтобы быть разгаданной и утратить загадочность. Остерегайся тех, кто признаёт собственное незнание со смирением: есть время признавать невежество и время избавляться от него.

Вторая добродетель — отречение

Сказано: «Что может быть разрушено истиной, не заслуживает спасения». Не избегай встречи с тем, что может уничтожить твои убеждения. Мысль, которую ты в ужасе гонишь из сознания, связывает тебя и заключает в рабство. Без страха бросай свои убеждения в огонь испытаний.

Очищай своё сердце от эмоций, растущих из ложных убеждений и пестуй в нём те, что основаны на истине. Если к лицу твоему подносят холодное железо, а ты веришь, что оно раскалено, Путь не приемлет твоего страха. Если к лицу твоему подносят раскалённое железо, а ты веришь, что оно холодно, Путь не приемлет твоего спокойствия.

Источником твоих эмоций должна быть истина, а не ложь. Повторяй снова и снова: «Если железо раскалено, я желаю верить, что оно раскалено. Если железо холодно, я желаю верить, что оно холодно». Легко привязаться к убеждениям, рождающим эмоции; остерегайся таких привязанностей, ибо они могут увести тебя от истины.

Третья добродетель — лёгкость

Доверься ветру фактических подтверждений. Позволь ему нести тебя как осенний лист, не выбирая направления. Опасайся идти против этого ветра. В безнадёжной борьбе ты всё равно будешь отступать пядь за пядью, на каждом шагу ощущая горечь поражения.

Сдавайся истине так быстро, как только сможешь. Заметив за собой малейшую попытку сопротивления, сдавайся. Сдавайся в тот самый миг, когда уловишь, с какой стороны ветер фактов дует против тебя. Верность убеждениям — порок, а не добродетель. Предавай свои убеждения при первой же встрече с более сильным противником.

Если факты для тебя — досадная помеха, ты будешь искать повода освободиться от них. Но итогом станет не свобода, а рабство на цепи у произвольных убеждений. Сверяясь с фактами, отвергай ошибочные убеждения, а не наоборот.

Нельзя составить карту города, сидя дома и накрывшись одеялом с головой. Надо обойти город с широко раскрытыми глазами и честно нанести на бумагу то, что видишь. Если ты, видя город нечётко, трактуешь неопределённость по собственной прихоти, смещая линии левее, правее, выше и ниже — чем ты лучше того, кто рисует город дома под одеялом?

Четвёртая добродетель — беспристрастность

Тот, кто желает верить, спрашивает себя: «Позволяют ли фактические подтверждения верить?». Тот, кто не желает, спрашивает: «Принуждают ли фактические подтверждения верить?». Остерегайся предпочтений, что будут усыплять твой скептицизм по отношению к приятным для тебя утверждениям и пробуждать его при столкновении с неприятными.

Взгляни на того, кто уделяет внимание лишь фактам, говорящим в пользу его взглядов. Чем больше его знания — тем дальше он уходит от истины. Другой избирателен в своей критике. С инквизиторским рвением расчленяя в поисках ошибок одни рассуждения, к другим он проявляет снисхождение. Чем больше он знает о логических ошибках и когнитивных искажениях — тем крепче броня, которой он прикрывает своё невежество.

Если некто начал рассуждение с того, что написал внизу страницы: «Таким образом, цвет неба — зелёный!», уже не важно, что он напишет выше: конечный вывод записан и он либо истинный, либо ложный. Ловкость в аргументации — не рациональность, а рационализация. Интеллект бесполезен для человечества, если используется лишь в борьбе с самим собой.

Рассматривая гипотезу за гипотезой, выслушай, что каждая из них может сказать в свою защиту. Но помни: ты не гипотеза, а судья. Не позволяй себе выступать в защиту какой‑либо стороны: тот, кто уже выбрал сторону, не нуждается в рассуждении. Если ты знаешь пункт назначения, ты уже на месте.

Пятая добродетель — спор

Желающий упасть должен сперва отвергнуть своих друзей, чтобы те не могли помочь ему. Сказав с мудрой улыбкой «я не буду спорить», глупец отвергает помощь и самоустраняется от общественных усилий.

В споре стремись к абсолютной искренности. Это будет полезно не только окружающим, но и тебе. Часть ума, что рождает лукавство, искажая твои слова, искажает и твои собственные мысли.

Не думай, что делаешь одолжение собеседнику, соглашаясь с ним. Если его аргументы сильнее твоих, это он сделал одолжение, поделившись ими. Прими его дар с благодарностью.

Не путай справедливость ко всем сторонам с поиском компромисса. Истина не раздаётся поровну между сторонами перед началом спора. Беспристрастно рассмотрев аргументы, стремись к истине, а не к равному учёту всех мнений.

Нельзя приблизиться к истине с помощью кулаков и оскорблений. Стремись провести эксперимент, чтобы сама реальность рассудила, кто прав.

Шестая добродетель — эмпиризм

Корни знания — в наблюдениях, а плоды его — точные предсказания. Где то дерево, что растёт без корней? Где то дерево, что питает нас без плодов?

Если дерево падает в безлюдном лесу, слышен ли звук его падения? Один скажет: «Да, слышен, ибо падение создаёт звуковые волны в воздухе». Другой возразит: «Нет, не слышен, ибо нет мозга, в аудиторной области которого возбудились бы нейроны». Хотя один говорит «да», а другой «нет», их спор лишён содержания, ведь ожидаемый ими опыт взаимодействия с лесом совпадает.

Не думай о том, каких убеждений придерживаться. Думай об экспериментальных результатах, которые ты ожидаешь увидеть. Никогда не теряй из виду реальный предмет спора: различия в ожидаемых наблюдениях. Не позволяй увести себя в сторону и перескочить на обсуждение личностей спорщиков или бравирование силой своей рациональности.

Сказано о спортивных матчах: «Губят не ошибки в выполнении замысловатых техник. Губит элементарное: потеря мяча из виду». Не позволяй словам ослепить себя. Очисти свои мысли от слов и останутся лишь ожидаемые результаты наблюдений.

Седьмая добродетель — простота

Сказано: «Совершенство достигается не тогда, когда нечего добавить, а тогда, когда нечего отнять». Ищи простоты в убеждениях, проектах, планах и доказательствах.

Чем сложнее высказанное тобой убеждение, чем больше в нём деталей, тем больше вероятность ошибки, дискредитирующей всю конструкцию. Каждое отдельное утверждение утяжеляет твою ношу, и если эту ношу можно облегчить — сделай это! Нет такой соломины, которая не могла бы сломать тебе спину.

Самая надёжная шестерня в машине — та, которой там нет. Чем меньше паутина — тем она прочнее. Цепь из тысячи шагов приведёт тебя к верному выводу лишь тогда, когда каждый шаг безошибочен. Но если ошибка в самом начале — куда ты придёшь? Математикам известно, что целые горы праведных деяний не искупят единственного греха. Не ослабляй внимания ни на секунду.

Восьмая добродетель — скромность

Быть скромным — значит заранее принимать меры в ожидании провала своих планов. Тот, кто признаёт способность ошибаться, но никак не пытается её скомпенсировать, движим гордыней, а не скромностью. Демонстрируя напускное смирение, он упивается собственной мнимой добродетелью.

Кто воистину скромен? Тот, кто неустанно готовит себя к самым катастрофическим ошибкам в собственных убеждениях и расчётах.

Мышление миллионов людей настолько слабо, что даже начинающий рационалист легко побеждает их в споре, преисполняясь гордыней и переоценивая собственные умения. Нет славы в том, чтобы быть выше других. Лучший физик Древней Греции не смог бы рассчитать траекторию падающего яблока. Вселенная не подбирает нам задачи по способностям и оценивает по абсолютной шкале. Предельные усилия лучших из нас могут быть недостаточны для удовлетворительной оценки.

Не успокаивай себя тем, что другие справляются хуже. Сравнивая себя с другими, ты не увидишь искажений, общих для всех людей. Быть человеком — значит совершить десять тысяч ошибок. Нет в мире того, кто был бы достаточно хорош. Совершенство недостижимо.

Девятая добродетель — перфекционизм

Чем больше ошибок ты исправишь в себе, тем больше заметишь новых. Чем тише станет твой ум, тем лучше ты будешь различать шумы и помехи.

Замечая ошибки своего ума, знай — это признаки того, что тебе следует искать выход на следующий уровень. Примиряясь со своими ошибками, вместо того, чтобы корректировать себя, ты не сможешь выйти на новый уровень и не увидишь другие, менее явные ошибки. В любом искусстве и ремесле тот, кто не ищет совершенства, остановится, не сделав и первых двух шагов.

Недостижимость совершенства не оправдывает того, кто отказался к нему стремиться. Поставь для себя самую высокую планку, которую только можешь вообразить и без устали думай, как поднять её ещё выше. Не довольствуйся почти правильным ответом. Всегда ищи абсолютно правильный, точный ответ.

Десятая добродетель — точность

Пусть некто скажет: искомое число лежит в пределах от 1 до 100. Другой скажет: число лежит между 40 и 50. Если искомое — 42, оба будут правы. Но второе предсказание полезнее и способно выдержать более строгую проверку.

Что верно для одного яблока, может быть неверно для другого. О конкретном яблоке можно сказать больше, чем обо всех яблоках мира. Узкое утверждение режет глубже, подобно кромке лезвия.

Составляя карту, стремись не к широте мышления, а к его узости. Помни, что Путь — точное искусство. Пусть твоё движение к истине будет не шагом, но танцем. Каждое движение этого танца должно быть выверено до миллиметра. Каждый новый факт должен изменить твои убеждения на строго определённую величину.

Какова эта величина? Чтобы определить её, изучи теорию вероятностей. Даже если ты не можешь сделать точный расчет, понимание лежащей в основе математики даст уверенность в том, что движения твоего танца точны и в них нет места для личных прихотей и капризов.

Одиннадцатая добродетель — эрудиция

Изучай науки и впитывай в себя их силу. Пусть эта сила станет твоей собственной! Каждая область знаний, поглощённая тобой, делает тебя больше. Если ты проглотишь достаточно наук, зазоры между ними сократятся и твои знания обретут цельность. Взрасти в себе ненасытность и станешь обширнее гор!

Важнее всего усвоить математику и науки, связанные с рациональностью: эволюционную психологию, психологию эвристик и когнитивных искажений, социальную психологию, теорию вероятностей, теорию принятия решений. Это необходимо, но недостаточно. Искусство должно иметь внешнюю цель, иначе оно вырождается в бесконечную рекурсию.

***

Превыше этих одиннадцати добродетелей та, что не имеет имени.

Сказано:

«Подняв меч, думай о том, как поразить им противника, чего бы это ни стоило. Атакуя и парируя, нанося удары и делая выпады, рази противника тем же движением.

Не отклоняйся от цели. Думая о том, как атаковать и парировать, как наносить удары и делать выпады, ты не поразишь противника. Прежде всего думай о том, как каждым своим движением пройти через защиту противника и рассечь его плоть».

Каждым движением своего ума стремись рассечь ошибочные суждения и достигнуть истины. Прежде всего думай о том, чтобы сделать свою карту точным отражением территории. Если истинный ответ не получен, что толку в том, что твои действия были корректны?

Как улучшить своё понимание рациональности? Постоянно повторяя «надо быть рациональнее», можно лишь укрепить ошибочное понимание. Кто‑то считает, что рационально верить словам Великого Учителя. Допустим, Великий Учитель сказал: «Цвет неба — зелёный!», однако, подняв глаза, ты видишь голубой. Если ты думаешь «пусть небо и выглядит голубым, но Путь рационалиста в том, чтобы верить словам Учителя», ты лишаешься возможности обнаружить свою ошибку.

Не спрашивай себя, пристало ли Идущему делать то или другое. Спрашивай, какого цвета небо — зелёного или голубого. Говорящий о Пути слишком много не уйдёт по нему далеко.

Можно попытаться дать имена высшим принципам: «карта, отражающая территорию», «опыт успехов и неудач» или «байесианская теория принятия решений». Но всякое описание может быть некорректным. Как осознать свою ошибку? Сравнивая свои описания с тем, чему нет имени и нет описания.

Годами практикуя техники рациональности, подчиняя свой ум строжайшей дисциплине и самоограничениям, можно надеяться однажды заметить проблеск истинного содержания. К тебе придёт понимание, что все техники суть одна техника. Ты будешь двигаться свободно и верно, не чувствуя ограничений, ставших частью твоей натуры. Сказано: «Познав силу природы, ты движешься в едином ритме со Вселенной. Твои выпады естественны и точны. Ты поражаешь противника, как дышишь. В этом Путь Пустоты».

***

Вот двенадцать добродетелей рационалиста:

Любопытство, отречение, лёгкость, беспристрастность, спор, эмпиризм, простота, скромность, перфекционизм, точность, эрудиция и безымянная пустота.

От переводчика

При переводе я предпринял попытку максимально точно передать впечатления от оригинала, написанного в духе буддийских наставлений. При этом для достижения нужного художественного эффекта зачастую приходилось существенно отклоняться от буквального перевода. О замеченных фактических ошибках и некорректно переданных смыслах прошу сообщать в комментариях.

На перевод получено согласие автора:

D.S.: …I’ve made that translation and want to publish it on my blog (with a credit to the author, of course). Please tell me if you have any objections to this, or wish to make some restrictions (specific license, disclaimer or something like that).
E.Y.: Please by all means go ahead!

Наверх ↑

Перевод многих статей можно найти на сайте LessWrong.ru.
Ссылка дана на русский перевод. Оригинал — hpmor.com.
Познакомьтесь, это комментарий.
Серым цветом обозначены ссылки на источники.
  • https://www.facebook.com/app_scoped_user_id/10154266496153849/ Timur Shemsedinov

    Добродетель рационалиста – эмпиризм, это смешно, да )))
    Ничего, что это противоположные понятия?

    • https://vk.com/dsent Danila Sentyabov

      Нет, не смешно. Раскройте свою мысль, чтобы юмор был понятен всем :-)

      • https://www.facebook.com/app_scoped_user_id/10154266496153849/ Timur Shemsedinov

        Эмпиризм – признание исключительной истинности знания, полученного опытным путем, и на его основе уже индуктивно могут быть получены обобщения. Рационализм – признание исключительной истинности знания, полученного путем логических выводов и аналитически, дедуктивно. Противоположные подходы.

        • https://vk.com/dsent Danila Sentyabov

          У нас с вами терминологическая путаница. Вы, видимо, под «рационалистом» понимаете сторонника популярной в ⅩⅦ веке философской школы. Здесь под «рационалистом» понимается человек, стремящийся к рациональности, т. е., рациональному мышлению и рациональному поведению.

          • https://www.facebook.com/app_scoped_user_id/10154266496153849/ Timur Shemsedinov

            А сейчас под рациональным мышлением уже понимают не методы познания, основанные на мышлении? Если нет, то уточните, что именно Вы считаете рациональным или кто еще так считает? В статье явная терминологическая путаница.

            • https://vk.com/dsent Danila Sentyabov

              В статье путаницы нет. Есть определённая путаница в современной философии с термином «рационализм»: некоторые настаивают на исторически корректном узком определении, о котором говорите вы, а некоторые понимают «рационализм» шире (что, среди прочего, убирает противоречие с эмпиризмом, хотя и не делает эмпиризм обязательной составляющей рационализма).

              Что касается «рациональности», «рационального мышления», «рационального выбора» и «рационального поведения» — с этими терминами существенной путаницы нет. К «рационализму» ⅩⅦ века они имеют лишь очень косвенное отношение.

              Вот как определяет рациональность автор «Двенадцати добродетелей» Юдковский:
              — Эпистемологическая рациональность — образ действий и мыслей, укрепляющий соответствие между реальным миром и его ментальной моделью в вашем сознании. Искусство обретения убеждений, согласующихся с реальностью настолько близко, насколько возможно. Это соответствие обычно называют «точностью», «правдивостью» или «правильностью».
              — Инструментальная рациональность — реализация ваших ценностей («ваших» не обязательно в смысле «эгоистичных»). Искусство направлять будущее в сторону предпочтительных для вас результатов. Это можно назвать «выигрыванием».

              Хочу обратить внимание, что в англоязычной литературе эти определения общеприняты, если речь не идёт об истории философии.

              (Перевод статьи «Что такое рациональность» можно прочитать на LessWrong.ru: http://lesswrong.ru/w/%D0%A7%D1%82%D0%BE_%D1%82%D0%B0%D0%BA%D0%BE%D0%B5_%D1%80%D0%B0%D1%86%D0%B8%D0%BE%D0%BD%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D1%81%D1%82%D1%8C )

              Лично мне проще всего определять рациональность в рамках теории управления (кибернетики). Постараюсь кратко и «своими словами».

              Рациональное поведение — любая деятельность агента (например, человека), обеспечивающая достижение максимальных значений функции пользы. Люди обычно думают не о функции пользы, а о «целях», «ценностях», «благе». Однако, если система ценностей непротиворечива, то её всегда можно выразить в виде числовой функции (см. утилитаризм).

              Рациональное мышление в широком смысле — любой управляющий процесс, обеспечивающий рациональное поведение агента в среде его нахождения. Иначе говоря, алгоритм, оптимизирующий поведение агента по функции пользы.

              Рациональное мышление человека — процесс рассуждений, обеспечивающий:
              а) уточнение ментальной модели окружающего мира (получение истинных суждений о действительности; формирование истинных убеждений);
              б) выбор оптимальных действий в рамках этой модели (для достижения «целей» и реализации «ценностей» — т.е., максимизации функции пользы).

              Если рассмотреть пространство всех возможных способов мышления, то рациональным мы назовём такое мышление, которое обеспечит максимально быстрое решение вышеуказанных задач с наименьшими затратами ресурсов (внимательный человек заметит, что выбор функции для оптимизации в данном случае не тривиален и, таким образом, можно говорить не о какой-то одной «рациональности», а о пространстве возможных «рациональностей», но это уже тема для полноценной научной работы).

              Если бы можно было предсказуемо получать достоверную информацию о вселенной без ресурсозатрат — скажем, методом божественного откровения — именно такой способ мышления я назвал бы рациональным. Увы, пока все известные способы «дешёвого» получения информации (интуиция, «откровения» и т.п.) не обеспечивают устраивающей меня точности моделей. Поэтому, для меня из всего пространства возможных мышлений «рациональными» будет лишь небольшое подмножество, основанное на индукции (эмпирике) и дедукции (анализе).

              • https://www.facebook.com/app_scoped_user_id/10154266496153849/ Timur Shemsedinov

                Вы просто называете “оптимальное управление” термином “рациональное поведение”, что не принято ни в русскоязычной ни в англоязычной литературе по кибернетике. Я преподаватель на кафедре Технической кибернетики КПИ, не заливайте мне про управление. Все материалы и ссылки у Вас имеют один первоисточник, это Юдковский, он сам дает определения терминам, и вне его работ, его сайтов и его последователей, эти термины имеют совершенно другое значение.

                • https://vk.com/dsent Danila Sentyabov

                  Википедию тоже Юдковский отредактировал? :-)
                  https://en.wikipedia.org/wiki/Rationality
                  https://en.wikipedia.org/wiki/Instrumental_rationality
                  https://en.wikipedia.org/wiki/Bounded_rationality
                  https://en.wikipedia.org/wiki/Rational_choice_theory

                  Использование термина rationality, как объединяющего epistemic rationality и instrumental rationality — именно в том смысле, в котором их использует Юдковский, я вижу повсеместно. В том смысле, о котором говорите вы — только в статьях по истории философии.

                  Существенный плюс такого использования слова «рациональность» в том, что оно хорошо совместимо с бытовым пониманием рациональности. В быту под «рациональностью» обычно понимается инструментальная рациональность. Рациональный человек — тот, кто ведёт себя разумно, обдумывает свои действия, выбирает их в соответствии со своими интересами.

                  Что касается кибернетики — в учебнике по AI (S. Russell, P. Norvig. Artificial Intelligence: A Modern Approach) термины rationality, rational используются в смысле, который я определил выше. Этот учебник — один из самых широко используемых в мире, переведён на многие языки. На его основе построено преподавание AI более, чем в 1100 университетах мира (данные из Википедии: https://en.wikipedia.org/wiki/Artificial_Intelligence:_A_Modern_Approach ). Лично я могу сказать про лекции MIT — они точно построены на этом учебнике и термины используются аналогично.

                  В чём суть вашего возражения? Вы не согласны с использованием термина «рациональность» для обозначения того, что здесь этим термином обозначено? Какой термин вы предлагаете использовать вместо «рациональности»?

                  Также хочу обратить ваше внимание на недопустимость пренебрежительных комментариев в адрес собеседника («это смешно», «не заливайте мне…» и т.д.). Я рассматриваю комментарии как продолжение опубликованных статей. Они должны предоставлять читателям дополнительную информацию и расширять перспективу, а не давать возможность комментаторам упражняться в остроумии и самоутверждаться за счёт других участников дискуссии.

                  Ваше возражение достаточно важно и может быть интересно многим читателям. Давайте спокойно обсуждать предмет, без взаимных выпадов.

  • http://stackoverflow.com/users/614425/microfed Microfed

    По моему скромному мнению, комментарий Тимура не представляет никакой важности для сообщества. Основная дельта: некий преподаватель с кафедры кибернетики (1) не в курсе текущего положения дел и взлядах на проектирование AI, (2) считает нормальным оставлять бессмысленные комментарии без предварительного ознакомления с темой. Маленькая дельта: кто-то закеширован на “рацио” и противоположные филлосовские взгляды.

    А вот то, что в блоге про рациональность есть такие длинные обсуждения по форме спора о звуке – расстраивает. https://wiki.lesswrong.com/wiki/A_Human's_Guide_to_Words

    • https://dsent.me/blog Danila Sentyabov

      Сюда часто заходят люди, которые раньше не сталкивались с сообществом, не читали цепочки. Многим из них претензии к терминологии кажутся справедливой критикой. Не всем очевидно, что терминологический спор в ситуации, когда вложенное автором значение очевидно из контекста, показывает отсутствие доброй воли.

      Можно было бы всех направлять читать цепочки, но мне кажется, что в данном случае разъяснение было более правильным решением, чем отсылка «почитать учебник». Ведь выбор термина здесь не произволен, он отражает современный консенсус в области. К тому же, именно это возражение я слышал уже несколько раз от «философски подготовленных» граждан.