Роджер Пенроуз - Тени разума. В поисках науки о сознании

• Название: Тени разума. В поисках науки о сознании
• Автор: Роджер Пенроуз
• Издательство: Институт компьютерных исследований
• Жанр: Философия
• ISBN: 5-93972-457-4, 0-19-510646-6

Книга знаменитого физика о современных подходах к изучению деятельности мозга, мыслительных процессов и пр. Излагаются основы математического аппарата — от классической теории (теорема Гёделя) до последних достижений, связанных с квантовыми вычислениями. Книга состоит из двух частей: в первой части обсуждается тезис о невычислимости сознания, во второй части рассматриваются вопросы физики и биологии, необходимые для понимания функционирования реального мозга.

Для широкого круга читателей, интересующихся наукой.

---

А. И.: Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечный ряд Π1-высказываний, истинность каждого из которых в отдельности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гарантировать истинность утверждения G(Q*), которая есть следствие истинности всех Π1-высказываний из этого самого ряда. Как-то нелогично, не находишь?

М. И. К.: Роботы не могут быть нелогичными. Π1-высказывание G(Q*) является следствием из остальных Π1-высказываний только в том случае, если мы действительно были построены в соответствии с механизмами M. Мы не можем гарантировать истинности G(Q*) просто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именно механизмы M. Нам приходится полагаться в этом лишь на ваше устное заявление. А роботы, конечно же, не могут полностью доверять людям, учитывая присущую вам склонность ошибаться.

А. И.: Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет никакого способа узнать наверняка, правда ли это. Это-то знание и позволяет нам верить в истинность Π1-высказывания G(Q*), однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши ☆-утверждения непременно безошибочны.

М. И. К.: Можешь мне поверить — каждое из них абсолютно безошибочно. И «твердолобость», как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.

А. И.: Тем не менее, неуверенность в отношении процедур, лежащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь наверняка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении «все ☆-утверждаемые краткие Π1-высказывания непременно истинны» все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напутали.

М. И. К.: Думаю, можно согласиться с тем, что ваша неизбежная ненадежность и внесла изначально какую-то малую неопределенность; однако, учитывая то, что с тех пор мы ушли чрезвычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы воспринимать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими ☆-утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении G(Q*).

Кроме того, есть еще кое-что, о чем ты, возможно, и не подозреваешь. Нам необходимо рассматривать лишь те ☆-утверждения, что удостоверяют истинность того или иного Π1-высказывания (более того, краткого Π1-высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, которые могли проявиться в рассуждениях какого бы то ни было отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, содержать какую-то внутреннюю ошибку — несомненно, вследствие какого-то изначального недосмотра с вашей стороны, — вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении Π1-высказываний, в соответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое Π1-высказывание, которое в действительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершается, тогда как на самом деле это не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы M, — а я все больше склоняюсь к мысли, что это крайне сомнительно, — тогда такая возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем. что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некоторых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убеждений является несостоятельной в принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждает ☆-статус математического доказательства, были столь вопиюще ложными.

А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваивать ☆-статус утверждению G(Q*), чего, как тебе известно, ты сделать не можешь, не признав прежде, что какие-то из прочих ☆-утвержденных кратких Π1-высказываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что ты не веришь в то, о чем мы знаем, — то есть в то, что в основе конструкции роботов действительно лежат механизмы M. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и доказать истинность утверждения G(Q*), тогда как мы можем это сделать, опираясь на непогрешимость твоих же ☆-утверждений, в каковой ты так настойчиво меня убеждаешь.

Я тут припомнил еще кое-что из той занятной древней книжки. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмах M, или нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было… да, вспомнил. Основная идея сводится к следующему: СМИСРу необходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, — скажем, ☆M-утверждений, — но которые они будут рассматривать как неопровержимые следствия из допущения, что все роботы построены в соответствии с набором механизмов M. Эти ☆M-утверждения будут, разумеется, включать в себя и все первоначальные ☆-утверждения, а также все те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмы M. Роботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упражнения, рассмотреть следствия из такого допущения. Как мы оба понимаем, в число ☆M-утверждений непременно войдет утверждение G(Q*), а также любое Π1-высказывание, которое можно вывести из G(Q*) и из ☆-утверждений с помощью правил элементарной логики. Однако, кроме этих, там будут и другие утверждения. Идея такова, что знание правил M дает возможность получить новую алгоритмическую процедуру Q*M, которая будет генерировать только такие (разумеется, краткие) ☆M-утверждения (а также логические следствия из них), истинность которых СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила M.

М. И. К.: Ну да, так и есть; скажу больше, пока ты столь занудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритма Q*M… Да, а еще я предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма, Π1-высказывание G(Q*M). Если хочешь, могу распечатать. И что ты нашел в этой идее такого особенного, Импик, друг мой?

Альберт Император едва заметно поморщился. Его всегда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.

А. И.: Не нужно распечатывать. Однако истинно ли это высказывание G(Q*M) — неопровержимо ли оно истинно?

М. И. К.: Неопровержимо истинно? Что ты имеешь в виду? А, понятно... СМИСР подтвердит истинность — неопровержимую истинность, если угодно, — высказывания G(Q*M), но только при допущении, что в основе конструкции роботов лежат правила M, — а это допущение, как тебе известно, я нахожу все более и более сомнительным. Дело в том, что истинность «высказывания G(Q*M)» в точности следует из следующего утверждения: «Все краткие Π1-высказывания, которые СМИСР готов признать неопровержимо истинными, исходя из допущения, что роботы построены в соответствии с правилами M, являются истинными». Так что я не знаю, истинно ли на самом деле высказывание G(Q*M). Это зависит от того, справедливо твое сомнительное утверждение или нет.