Метамышление. Как нейронауки помогают нам понять себя

Я покажу, что в условиях возрастающей политической поляризации и дезинформации особую важность получает развитие способностей саморефлексировать и подвергать сомнению наши убеждения и мнения. Мы подумаем, почему даже самые мощные современные компьютеры не обладают метапознанием, а также увидим, как стремительное распространение машинного обучения проводит границу между алгоритмами разума и алгоритмами самосознания. Мы обсудим, что это может означать для общества и как мы можем это контролировать – стоит ли нам пытаться внедрить самосознание в наши компьютеры или удостовериться, что мы сможем понимать и использовать создаваемые нами машины.

Чем бы ни завершились эти усилия, они могут стать ключом к решению некоторых острейших социальных проблем.

Надеюсь, к концу этой книги нам станет понятно, почему культивирование самосознания всегда и везде было необходимым условием процветания и успеха – от древних Афин до зала заседаний директоров Amazon. Но мы забегаем вперед. Чтобы раскрыть таи?ны самосознания, нам предстоит начать с самых простых строительных кирпичиков: с двух особенностеи? работы нашего сознания – отслеживания неопределенности и мониторинга своих деи?ствии?.

Хотя они и могут показаться простыми, эти особенности составляют фундамент самосознающего мозга.

Часть I

Как разум осознает себя

Глава 1

Как быть неуверенным

Другой источник идей есть внутреннее восприятие действий нашего ума, <…> и хотя этот источник не есть чувство, поскольку не имеет никакого дела с внешними предметами, тем не менее он очень сходен с ним и может быть довольно точно назван внутренним чувством.

    – Джон Локк. «Опыт о человеческом разумении». Кн. 2

Есть там что-нибудь – или нет? Такой вопрос встал перед Станиславом Петровым одним ранним сентябрьским утром 1983 года. Петров был подполковником ПВО советских войск и отвечал за мониторинг системы спутников раннего предупреждения. Холодная война между США и Советским Союзом находилась на пике, и угроза запуска ядерных ракет большой дальности одной из сторон была вполне реальна.

В то роковое утро в командном центре Петрова сработала сигнализация, оповестившая, что пять американских ракет направляются в сторону Советского Союза. Согласно доктрине взаимного гарантированного уничтожения, задачей Петрова было немедленно сообщить об атаке своему руководству, чтобы то могло нанести контрудар. Время поджимало – через двадцать пять минут ракеты разорвались бы на советской земле[15 - Steele J.