Роджер Пенроуз - Тени разума. В поисках науки о сознании

• Название: Тени разума. В поисках науки о сознании
• Автор: Роджер Пенроуз
• Издательство: Институт компьютерных исследований
• Жанр: Философия
• ISBN: 5-93972-457-4, 0-19-510646-6

Книга знаменитого физика о современных подходах к изучению деятельности мозга, мыслительных процессов и пр. Излагаются основы математического аппарата — от классической теории (теорема Гёделя) до последних достижений, связанных с квантовыми вычислениями. Книга состоит из двух частей: в первой части обсуждается тезис о невычислимости сознания, во второй части рассматриваются вопросы физики и биологии, необходимые для понимания функционирования реального мозга.

Для широкого круга читателей, интересующихся наукой.

---

Возможно, кто-то усмотрит в формулировке допущения M, равно как и в определении ☆M-утверждения, некоторую неоднозначность. Смею вас уверить, что подобное утверждение, будучи Π1-высказыванием, представляет собой в высшей степени определенное математическое утверждение. Можно предположить, что большинство ☆M-утверждений робота окажутся в действительности самыми обыкновенными ☆-утверждениями, поскольку маловероятно, что робот при каких угодно обстоятельствах сочтет целесообразным прибегать в своих рассуждениях к самой гипотезе M. Исключением может стать утверждение G(Q(M)), о котором говорилось выше, так как в данном случае формальная система Q(M) выступает, с точки зрения робота, в роли гёделевской гипотетической «машины для доказательства теорем» (см. §§3.1 и 3.3). Вооружившись гипотезой M, робот получает доступ к своей собственной «машине для доказательства теорем», и, хотя он не может быть (да и, скорее всего, не будет) безоговорочно убежден в обоснованности своей «машины», робот способен предположить, что она может оказаться обоснованной, и попытаться вывести следствия уже из этого предположения.

На этом этапе робот еще не добирается до парадокса — так же, как не добрался до него и Гёдель в своих рассуждениях о человеческом интеллекте (см. цитату в §3.1). Однако, поскольку роботу доступен для исследования набор гипотетических механизмов M, а не просто отдельная формальная система Q(M), он может повторить свое рассуждение и перейти от системы Q(M) к системе QM(M), обоснованность которой он по-прежнему полагает простым следствием из гипотезы M. Именно это и приводит его в конечном итоге к противоречию (чего мы, собственно, и добивались). (См. также §3.24, где мы продолжим рассмотрение системы QM(M) и ее кажущейся связи с «парадоксальными рассуждениями».)

Вывод: ни одно обладающее сознанием и имеющее понятие о математике существо — иначе говоря, ни одно существо со способностью к подлинному математическому пониманию — не может функционировать в соответствии с каким бы то ни было набором постижимых им механизмов, вне зависимости от того, знает ли оно в действительности о том, что именно эти механизмы, предположительно, направляют его на его пути к неопровержимой математической истине. (Вспомним и о том, что «неопровержимой математической истиной» это существо полагает всего лишь то, что оно способно установить математическими методами, — т.е. с помощью «математического доказательства», причем совсем необязательно «формального».)

Если конкретнее, то на основании предшествующих рассуждений мы склонны заключить, что не существует такого постижимого роботом и не содержащего подлинно случайных компонентов набора вычислительных механизмов, какой робот мог бы принять (даже в качестве возможности) как основу своей системы математических убеждений, — при условии, что робот готов согласиться с тем, что специфическая процедура, предложенная мною для построения формальной системы Q(M) на основе механизмов M, и в самом деле охватывает всю совокупность Π1-высказываний, в истинность которых он неопровержимо верит, а также, соответственно, с тем, что формальная система QM(M) охватывает всю совокупность Π1-высказываний, которые, как он неопровержимо верит, следуют из гипотезы M. Кроме того, если мы хотим, чтобы робот смог построить собственную потенциально непротиворечивую систему математических убеждений, следует ввести в набор механизмов M какие-либо подлинно случайные составляющие.

Эти последние оговорки мы рассмотрим в последующих разделах (§§3.17-3.22). Вопрос о введении в набор механизмов M возможных случайных элементов (вариант (c)) представляется удобным обсудить в рамках общего рассмотрения варианта (b). А для того чтобы рассмотреть вариант (b) с должной тщательностью, нам следует прежде в полной мере прояснить для себя вопрос об «убежденности» робота, который мы уже мимоходом затрагивали в конце §3.12.

3.17. Робот ошибается и робот «имеет в виду»?

Важнейший вопрос из тех, с какими нам предстоит разобраться на данном этапе, звучит так: готов ли робот безоговорочно согласиться с тем, что — при условии его построения в соответствии с некоторым набором механизмов M — формальная система Q(M) корректным образом включает в себя всю систему его математических убеждений в отношении Π1-высказываний (равно как и с соответствующим предположением для системы QM(M))? Такое согласие подразумевает, прежде всего, что робот верит в обоснованность системы Q(M), — т.е. в то, что все Π1-высказывания, являющиеся ☆-утверждениями, действительно истинны. Наши рассуждения требуют также, чтобы всякое Π1-высказывание, в истинность которого робот в состоянии безоговорочно поверить, являлось непременно теоремой системы Q(M) (т.е. чтобы в рамках системы Q(M) робот мог бы определить «машину для доказательства теорем», аналогичную той, возможность создания которой в случае математиков-людей допускал Гёдель, см. §§3.1, 3.3). Вообще говоря, существенно не то, чтобы система Q(M) действительно играла такую универсальную роль в отношении потенциальных способностей робота, связанных с Π1-высказываниями, а лишь то, чтобы она была достаточно обширна для того, чтобы допускать применение гёделевского доказательства к самой себе (и, соответственно, к системе QM(M)). Позднее мы увидим, что необходимость в таком применении возникает лишь в случае некоторых конечных систем Π1-высказываний.

Таким образом, мы — как, собственно, и робот — должны учитывать возможность того, что некоторые из ☆-утверждений робота окажутся в действительности ошибочными, и то, что робот может самостоятельно обнаружить и исправить эти ошибки согласно собственным внутренним критериям, сути дела не меняет. А суть дела заключается в том, что поведение робота в этом случае становится как нельзя более похоже на поведение математика-человека. Человеку ничего не стоит оказаться в ситуации, когда он (или она) полагает, что истинность (или ложность) того или иного Π1-высказывания неопровержимо установлена, в то время как в его рассуждениях имеется ошибка, которую он обнаружит лишь значительно позднее. Когда ошибка наконец обнаруживается, математик ясно видит, что его ранние рассуждения неверны, причем в соответствии с теми же самыми критериями, какими он руководствовался и ранее; разница лишь в том, что ранее ошибка замечена не была, — и вот Π1-высказывание, полагаемое неопровержимо истинным тогда, воспринимается сейчас как абсолютно ложное (и наоборот).

Мы вполне можем ожидать подобного поведения и от робота, т.е. на его ☆-утверждения, вообще говоря, полагаться нельзя, пусть даже он и удостоил их самолично статуса ☆. Впоследствии робот может исправить свою ошибку, однако ошибка-то уже сделана. Каким образом это обстоятельство отразится на нашем выводе относительно обоснованности формальной системы Q(M)? Очевидно, что система Q(M) не является целиком и полностью обоснованной, не «воспринимает» ее как таковую и робот, так что его гёделевскому предположению G(Q(M)) доверять нельзя. К этому, в сущности, и сводится суть оговорки (b).

Попробуем выяснить, может ли наш робот, приходя к тому или иному «неопровержимому» заключению, что-либо иметь в виду, и если да, то что именно. Уместно сопоставить эту ситуацию с той, что мы рассматривали в случае математика-человека. Тогда нас не занимало, что конкретно случилось обнаружить какому-либо реальному математику, нас занимало лишь то, что может быть принято за неопровержимую истину в принципе. Вспомним также знаменитую фразу Фейнмана: «Не слушайте, что я говорю; слушайте, что я имею в виду!». Похоже, нам нет необходимости исследовать то, что робот говорит, исследовать нужно то, что он имеет в виду. Не совсем, впрочем, ясно (особенно если исследователь имеет несчастье являться приверженцем скорее точки зрения B, нежели A), как следует интерпретировать саму идею того, что робот способен что бы то ни было иметь в виду. Если бы было возможно опираться не на то, что робот ☆-утверждает, а на то, что он в действительности «имеет в виду», либо на то, что он в принципе «должен иметь в виду», то тогда проблему возможной неточности его ☆-утверждений можно было бы обойти. Беда, однако, в том, что в нашем распоряжении, по всей видимости, нет никаких средств, позволяющих снаружи получить доступ к информации о том, что робот «имеет в виду» или о том, что, «как ему кажется, он имеет в виду». До тех пор, пока речь идет о формальной системе Q(M), нам, судя по всему, придется полагаться лишь на доступные ☆-утверждения, в достоверности которых мы не можем быть полностью уверены.