Роджер Пенроуз - Тени разума. В поисках науки о сознании

• Название: Тени разума. В поисках науки о сознании
• Автор: Роджер Пенроуз
• Издательство: Институт компьютерных исследований
• Жанр: Философия
• ISBN: 5-93972-457-4, 0-19-510646-6

Книга знаменитого физика о современных подходах к изучению деятельности мозга, мыслительных процессов и пр. Излагаются основы математического аппарата — от классической теории (теорема Гёделя) до последних достижений, связанных с квантовыми вычислениями. Книга состоит из двух частей: в первой части обсуждается тезис о невычислимости сознания, во второй части рассматриваются вопросы физики и биологии, необходимые для понимания функционирования реального мозга.

Для широкого круга читателей, интересующихся наукой.

---

В последующих девяти разделах представлен ряд веских аргументов, убедительно демонстрирующих, что первые три лазейки ((a), (b) и (c)) оказываются для робота, задавшегося целью обойти фундаментальное противоречие, совершенно бесполезными. Соответственно, робот (а вместе с ним и мы — если мы, конечно, продолжаем настаивать на том, что математическое понимание можно свести к вычислению) начинает всерьез подумывать о не очень привлекательной возможности (d). Уверен, что непривлекательной возможность (d) нахожу не я один — думаю, в этом со мной согласятся и те читатели, которым не безразлична судьба идеи искусственного интеллекта. Ее, пожалуй, приемлемо рассматривать лишь в качестве возможной мировоззренческой позиции, укладывающейся, по сути своей, в рамки той самой комбинации точек зрения A и D, о которой мы говорили в конце §1.3 и согласно которой для внедрения непознаваемого алгоритма в «мозг» каждого из наших роботов требуется, ни много ни мало, божественное вмешательство (от «первого в мире программиста»). В любом случае, вердикт «непознаваемо», вынесенный в отношении тех самых механизмов, которые, в конечном счете, ответственны за наличие у нас какого ни на есть разума, вряд ли обрадует тех, кто намерен, вообще говоря, построить робота, наделенного подлинным искусственным интеллектом. Не особенно обрадует он и тех из нас, кто все еще надеется понять, принципиально и не выходя за рамки строго научного подхода, каким образом в действительности возникло у человека такое свойство, как интеллект, объяснить его происхождение посредством четко формулируемых научных законов — законов физики, химии, биологии, законов естественного отбора, в конце концов, — пусть даже и не имея в виду воспроизвести этот самый интеллект в каком бы то ни было робототехническом устройстве. Лично я полагаю, что подобный пессимистический вердикт не имеет под собой никаких оснований — по той хотя бы простой причине, что «научная постижимость» имеет весьма мало общего с «вычислимостью». Законы, лежащие в основе мыслительных процессов не являются непостижимыми, они всего лишь невычислимы. На эту тему мы еще поговорим во второй части книги.

3.16. Необходимо ли роботу верить в механизмы М?

Вообразим, что у нас имеется робот, снабженный некоторым возможным набором механизмов M, — каковой набор может оказаться тем самым, на основе которого и построен наш робот, но это не обязательно. Я попробую убедить читателя в том, что робот будет вынужден отвергнуть возможность того, что его математическое понимание опирается на набор механизмов M, — независимо от того, как обстоит дело в действительности. При этом мы на время допускаем, что робот по тем или иным причинам уже отбросил варианты (b), (c) и (d), и приходим к выводу (несколько даже неожиданному), что сам по себе вариант (a) избежать парадокса не позволяет.

Рассуждать мы будем следующим образом. Обозначим через M гипотезу

«В основе математического понимания робота лежит набор механизмов M»

и рассмотрим утверждение вида

«Такое-то Π1-высказывание является следствием M».

Такое утверждение (в том случае, когда робот твердо верит в его истинность) я буду называть ☆M-утверждением. Иначе говоря, под ☆M-утверждениями не обязательно понимаются те Π1-высказывания, в истинность которых как таковых неопровержимо верит робот, но те Π1-высказывания, которые робот полагает неопровержимо выводимыми из гипотезы M. Изначально от робота не требуется обладание какими бы то ни было взглядами относительно возможности того, что в основе его конструкции действительно лежит набор механизмов M. Он может даже поначалу счесть такое предположение абсолютно невероятным, но, тем не менее, ничто не мешает ему рассмотреть (в подлинно научной традиции) возможные следствия из гипотезы о таком вот его происхождении.

Существуют ли Π1-высказывания, которые робот должен полагать неопровержимыми следствиями из гипотезы M и которые при этом не являются самыми обыкновенными ☆-утверждениями, вовсе не требующими привлечения этой гипотезы? Разумеется, существуют. Как было отмечено в конце §3.14, истинность Π1-высказывания G(Q(M)) следует из обоснованности формальной системы Q(M), отсюда же следует и тот факт, что утверждение G(Q(M)) не является теоремой системы Q(M). Более того, в этом робот будет совершенно безоговорочно убежден. Если допустить, что робот вполне согласен с тем, что все его неопровержимые убеждения укладывались бы в рамки системы Q(M), будь он действительно сконструирован в соответствии с набором механизмов M, — т.е. что возможность (b)[25] он из рассмотрения исключает, — то получается, что наш робот и в самом деле должен твердо верить в то, что обоснованность системы Q(M) является следствием гипотезы M. Таким образом, робот оказывается безоговорочно убежден как в том, что Π1-высказывание G(Q(M)) следует из гипотезы M, так и в том, что (согласно M) он не способен непосредственно постичь его неопровержимую истинность без привлечения M (поскольку формальной системе Q(M) оно не принадлежит). Соответственно, утверждение G(Q(M)) является ☆M-утверждением, но не ☆-утверждением.

Предположим, что формальная система QM(M) построена в точности так же, как и система Q(M), с той лишь разницей, что роль, которую при построении системы Q(M) исполняли ☆-утверждения, сейчас берут на себя ☆M-утверждения. Иначе говоря, теоремами системы QM(M) являются либо (I) сами ☆M-утверждения, либо (II) положения, выводимые из этих ☆M-утверждений с применением правил элементарной логики (см. §3.13). Точно так же, как робот на основании гипотезы M согласен с тем, что формальная система Q(M) охватывает все его неопровержимые убеждения относительно истинности III -высказываний, он будет согласен и с тем, что формальная система QM(M) охватывает все его неопровержимые убеждения относительно истинности Π1-высказываний, обусловленных гипотезой M.

Далее предложим роботу рассмотреть гёделевское Π1-высказывание G(QM(M)). Робот, несомненно, проникнется неопровержимым убеждением в том, что это Π1-высказывание является следствием из обоснованности системы QM(M). Он также вполне безоговорочно поверит в то, что обоснованность системы QM(M) является следствием гипотезы M, поскольку он согласен с тем, что система QM(M) действительно содержит в себе все, в чем робот неопровержимо убежден в отношении своей способности выводить Π1-высказывания, основываясь на гипотезе M. (Он будет рассуждать следующим образом: «Если я принимаю гипотезу M, то я тем самым принимаю и все Π1-высказывания, которые порождают систему QM(M). Таким образом, я должен согласиться с тем, что система QM(M) является обоснованной на основании гипотезы M. Следовательно, на основании все той же гипотезы, я должен признать и то, что утверждение G(QM(M)) истинно».)

Однако, поверив (безоговорочно) в то, что гёделевское Π1-высказывание G(QM(M)) является следствием гипотезы M, робот вынужден будет поверить и в то, что утверждение G(QM(M)) является теоремой формальной системы QM(M). А в это он сможет поверить только в том случае, если он полагает систему QM(M) необоснованной, — что решительно противоречит принятию им гипотезы M.

В некоторых из вышеприведенных рассуждений неявно допускалось, что неопровержимая убежденность робота является действительно обоснованной, — хотя необходимо лишь, чтобы сам робот просто верил в обоснованность своей системы убеждений. Впрочем, мы изначально предполагаем, что наш робот обладает математическим пониманием, по крайней мере, на человеческом уровне, а человеческое математическое понимание, как было показано в §3.4, принципиально является обоснованным.