Одна из величайших загадок касательно человеческого мозга это то, как он вообще может работать, когда большинство нейронов "задействуется" 10-20 раз каждую секунду, или 200Гц в общем.
В нейрологии, правило ста шагов гласит, что любая постулированная операция должна завершиться не более чем в сто последовательных шагов — вы можете быть параллельны настолько, насколько вам нравится, но вы не можете постулировать больше 100 (а скорее меньше) нейронных скачков один за другим.
Можете вы представить, что у вас есть программа, которая использует 100 Гц процессор, причем не имеет значения, сколько у вас их? Вам также понадобится сто миллиардов процессоров только чтобы получить что-либо в реальном времени.
Если вам требуется писать программы реального времени для сотни миллиардов 100 Гц процессоров, вы можете использовать такой трюк как кэширование. Это когда вы храните результаты предыдущих операций и в следующий раз смотрите на них, вместо того, чтобы вычислять каждый раз заново с нуля. И это весьма точная аналогия — распознавание, ассоциация, выполнение шаблона.
Неплохим предположением является то, что большая часть человеческого познания — это поиск в кэше.
Данная мысль имеет свойство появляться у меня в мозгу время от времени.
Есть отличная наглядная история, которая должна была бы быть у меня в закладках, однако я не смог ее там найти: это история о человеке, чей сосед-всезнайка однажды заметил, что легче всего убрать камин из дома так: разобрать камин, подождать пока труба опустится ниже, убрать видимый ее кусок, подождать пока она опустится еще и так далее, пока вся труба не будет убрана. Годы спустя, когда человек хотел убрать камин из своего дома, эта запасённая мысль всплыла в его сознании…
Как заметил этот человек уже потом — можно угадать, что все прошло отнюдь не гладко — его сосед не особенно хорошо разбирался в этом деле и не был надежным источником. Если бы его спросили об этой идее, он скорее всего понял бы что идея не очень. Некоторые запасённые результаты нам лучше бы все же вычислять заново. Но мозг выполняет шаблон автоматически — если вы сознательно не поймете, что шаблон нуждается в исправлении, вы так и продолжите действовать по прежнему шаблону.
Я подозреваю, что если бы мысль пришла к человеку сама по себе — если бы он сам придумал эту идею о том, как убрать камин — он бы отнесся к ней более критически. Но если кто-то уже подумал над идеей, вы же можете сэкономить вычислительные ресурсы просто закэшировав их вывод — так?
В современной цивилизации никто не может думать достаточно быстро, чтобы думать их собственные мысли. Если бы я был брошенным в лесах ребенком, воспитанным волками или молчаливыми роботами, я был бы не похож на человека. Никто не может думать достаточно быстро, чтобы резюмировать мудрость племени охотников-собирателей за одну жизнь, начиная с самого нуля. И уж подавно это невозможно для мудрости грамотной цивилизации.
Но с другой стороны я постоянно вижу людей, которые стремятся к критическому мышлению, при этом повторяя запасённые мысли, которые были придуманы теми, кто не использует критическое мышление.
Хорошим примером является скептик, который признает: «Ладно, вы не можете доказать или опровергнуть религию фактическим свидетельством». Как я уже показал где-то, это просто ложь согласно теории вероятности. И это также просто ложь относительно настоящей психологии религии — несколько веков назад, сказав это, вы бы оказались на костре. Мать, чья дочь больна раком, молится: «Господи, пожалуйста, вылечи мою дочь», а не «Дорогой Господь, я знаю, что религия не позволяет иметь каких-либо фальсифицируемых последствий, а это значит, что ты скорее всего не можешь вылечить мою дочь, так что….ладно, вообще, я молюсь чтобы почувствовать себя лучше, вместо того, чтобы сделать что-либо для настоящей помощи моей дочери».
Но люди читают «Вы не можете доказать или опровергнуть религию фактическим доказательством» и в следующий раз, когда они видят кусок свидетельства, который опровергает религию, их мозг реагирует по шаблону. Даже некоторые атеисты повторяют этот абсурд без тени сомнений. Если бы они сами придумали это, а не услышали от кого-то еще, они были бы скептичней по поводу данной идеи.
Смерть: завершите шаблон: «Смерть придает смысл жизни»
Это раздражает, когда разговариваешь с хорошими и достойными обычными людьми, которые никогда за тысячу лет даже случайно не задумывались о вымирании человечества — при переходе на тему экзистенциальных рисков слышать, как они говорят: «Хорошо, возможно человечество не заслуживает выживания». Они никогда бы не выстрелили бы в своего ребенка — а ведь он тоже часть человечества — однако их мозг выполняет шаблон.
Какие из шаблонов, выполняющихся вашим мозгом, являются для вас нежелательными?
Рациональность: завершите шаблон: «Любовь нерациональна».
Если бы эта идея внезапно пришла бы к вам сама по себе, как совершенно новая мысль, как бы вы ее проверили с точки зрения критического мышления? Я знаю, что хочу сказать этим, но знаете ли вы? Может быть трудно посмотреть на это свежим взглядом.
Старайтесь не давать вашему мозгу завершать шаблоны, как он привык. Возможно, действительно нет лучшего варианта, нежели привычный, но вы не можете узнать ответ на этот вопрос, пока вы не сумеете остановить ваш мозг от манеры выдавать ответ автоматически.
Теперь, когда вы прочитали этот пост, в следующий раз, когда вы услышите, что кто-то уверенно повторяет мем, который вы полагаете глупым или ложным, вы подумаете: «Запасённые мысли». Мое убеждение теперь у вас в голове, ждет возможности выполниться как шаблон. Но верно ли оно? Не позволяйте мозгу завершить шаблон!
Элиезер Юдковский
