Одна з найбільших загадок щодо людського мозку - це те, як він узагалі може працювати, коли більшість нейронів "задіюється" 10-20 разів щосекунди, або 200 Гц загалом.
У нейрології правило ста кроків свідчить, що будь-яка постульована операція має завершитися не більше ніж у сто послідовних кроків – ви можете бути паралельні настільки, як вам подобається, однак ви не можете постулювати більше 100 (а ймовірно, менше) нейронних стрибків один за іншим.
Чи можете ви уявити, що у вас є програма, яка використовує 100 Гц процесор, причому не має значення, скільки їх у вас? Вам також знадобиться сто мільярдів процесорів, тільки щоб отримати щось у реальному часі.
Якщо вам потрібно писати програми реального часу для сотні мільярдів 100 Гц процесорів, ви можете використовувати такий трюк, як кешування. Це коли ви зберігаєте результати попередніх операцій і наступного разу дивитеся на них, замість того, щоб обчислювати щоразу знову з нуля. І це досить точна аналогія – розпізнавання, асоціація, виконання шаблону.
Непоганим припущенням є те, що велика частина людських знань – це пошук у кеші.
Ця думка час від часу виникає в моєму мозку.
Є чудова наочна історія, яка мала б бути в мене в закладках, проте я не зміг її там знайти: це історія про людину, чий сусід-всезнайко якось зауважив, що найлегше прибрати камін з дому так: розібрати камін, почекати поки труба опуститься нижче, прибрати видимий її шматок, почекати поки вона опуститься ще, і так далі, поки вся труба не буде прибрана. Через декілька років, коли людина хотіла прибрати камін зі свого будинку, ця збережена думка зринула в її свідомості…
Як зауважила ця людина згодом – можна здогадатися, що все минуло не так легко, – її сусід не надто добре розумівся в цій справі й не був надійним джерелом. Якби його запитали про цю ідею, він, найімовірніше, зрозумів би, що вона не дуже й добра. Деякі збережені результати нам краще все-таки обчислювати знову. Однак мозок виконує шаблон автоматично – якщо ви не усвідомите, що шаблон потребує виправлення, ви так і діятимете далі за старим шаблоном.
Я підозрюю, що якби думка виникла в людини сама по собі – якби він сам придумав цю ідею про те, як прибрати камін, він би поставився до неї критичніше. Та якщо хтось уже поміркував над ідеєю, то ви можете заощадити обчислювальні ресурси – просто закешувати їхній висновок, чи не так?
У сучасній цивілізації ніхто не може думати досить швидко, щоб думати свої власні думки. Якби я був покинутою в лісах дитиною, яку виховали вовки або мовчазні роботи, я був би не схожий на людину. Ніхто не може думати досить швидко, щоб резюмувати мудрість племені мисливців-збирачів за одне життя, починаючи з нуля. І вже поготів це неможливо для мудрості грамотної цивілізації.
А з іншого боку, я постійно бачу людей, які прагнуть до критичного мислення, водночас повторюючи запасені думки, які належать тим, хто не використовує критичне мислення.
Гарним прикладом є скептик, який визнає: «Гаразд, ви не можете довести або спростувати релігію фактичним свідченням». Як я вже десь показав, це просто брехня згідно з теорією ймовірності. І це також просто брехня щодо справжньої психології релігії – декілька століть назад, сказавши це, ви б опинилися на багатті. Мати, чия дочка хвора на рак, молиться: «Господи, будь ласка, вилікуй мою дочку», а не «Дорогий Господь, я знаю, що релігія не дозволяє мати будь-яких фальсифікованих наслідків, а це означає, що ти, найімовірніше, не можеш вилікувати мою дочку, тому… гаразд, взагалі я молюся, щоб почуватися краще, замість того, щоб зробити що-небудь для реальної допомоги моїй дочці».
Однак люди читають: «Ви не можете довести або спростувати релігію фактичним доказом», і наступного разу, коли вони бачать шматок свідчення, що спростовує релігію, їхній мозок реагує за шаблоном. Навіть деякі атеїсти повторюють цей абсурд без тіні сумніву. Якби вони самі вигадали це, а не почули від когось ще, вони були б скептичніші щодо цієї ідеї.
Смерть: завершіть шаблон: «Смерть надає сенс життю»
Дратує, коли, розмовляючи з гарними та гідними звичайними людьми, які ніколи за тисячу років навіть випадково не замислювалися про вимирання людства, переходячи до теми екзистенційних ризиків, чуєш, як вони говорять: «Добре, можливо людство не заслуговує виживання». Вони ніколи б не вистрілили у свою дитину – а вона теж є частиною людства, однак їхній мозок виконує шаблон.
Які з шаблонів, що виконує ваш мозок, є для вас небажаними?
Раціональність: завершіть шаблон: «Любов нераціональна».
Якби ця ідея раптово виникла б у вас сама по собі, як абсолютно нова думка, як би ви її перевірили з погляду критичного мислення? Я знаю, що хочу сказати цим, та чи знаєте ви? Може бути важко подивитися на це свіжим поглядом.
Намагайтеся не давати вашому мозку завершувати шаблони, як він звик. Можливо, справді немає кращого варіанта, ніж звичний, однак ви не можете дізнатися відповідь на це питання, поки не зумієте зупинити ваш мозок від манери видавати відповідь автоматично.
Тепер, коли ви прочитали цей пост, наступного разу, коли ви почуєте, що хтось упевнено повторює мем, який ви вважаєте дурним або хибним, ви подумаєте: «Запасені думки». Моє переконання тепер у вас у голові, чекає можливості виконатися як шаблон. Та чи правильне воно? Не дозволяйте мозку завершити шаблон!
Елиєзер Юдковський