Алан Тьюринг - Могут ли машины мыслить?

• Название: Могут ли машины мыслить?
• Автор: Алан Тьюринг
• Издательство: ГИФМЛ
• Жанр: Прочая околокомпьтерная литература
• Год: 1960

«Может ли машина мыслить?» – едва ли не самая знаменитая статья А. Тьюринга. Даже сейчас, спустя почти 60 лет после ее написания, она, вызвавшая в свое время огромное количество как серьезных исследований, так и псевдонаучных спекуляций, нисколько не утеряла своего значения. Статья написана с юмором и иронией («словно между строк стоят смайлики, по словам Э. Ходжеса, биографа Тьюринга), но за шутливым тоном изложения скрываются одни из самых оригинальных и глубоких идей, высказанных в уходящем веке.

«Игра в имитацию», описанная в этой статье, получила название «теста Тьюринга» (ставшего стандартным теоретическим тестом на «интеллектуальность машины»), который, помимо специалистов по кибернетике, интересовал и некоторых психиатров, усмотревших глубинный психоаналитический смысл в цели игры («угадывание пола»).

Статья была впервые опубликована в научном журнале Mind, v. 59 (1950), pp. 433–460, под названием Computing Machinery and Intelligence и перепечатана в 4-м томе «Мира математики» Дж.Р. Ньюмена (The World of Mathematics. A small library… with commentaries and notes by James R. Newman, Simon & Schuster, NY, v. 4, 1956, pp. 2099–2123), где опубликована под заголовком Can the Machine think?

---

А для тех любознательных компьютерщиков, которые, возможно, не поверили на слово, что такую программу U нельзя написать, поясню, опуская детали (к которым можно придраться, но они все же несущественны), в чем тут дело. Если бы такая программа U была написана, то ее можно было бы легко переделать так, чтобы вместо команды вывода изображения девушки на экран она бы зацикливалась (вставить для этого, скажем, «вечный цикл» for(„); ). Пусть эта переделанная программа называется U2. Что будет делать программа U2, если ей на вход подать текст программы U2 (текст себя самой)? Если она зацикливается, то она должна показать фотографию юноши и остановиться, т.е. не зациклиться. Но если она не зацикливается, это значит, что она должна зациклиться (поскольку вывод девушки в программе U был заменен на «вечный цикл»). Тем самым программа U2 оказывается в безвыходном положении, несовместимом с допущением возможности ее существования. – Прим. И.Д.

Ответ на это возражение вкратце состоит в следующем. Установлено, что возможности любой конкретной машины ограничены, однако в разбираемом возражении содержится голословное, без какого бы то ни было доказательства, утверждение, что подобные ограничения не применимы к разуму человека. Я не думаю, чтобы можно было так легко игнорировать эту сторону дела. Когда какой-либо из такого рода машин задают соответствующий критический вопрос и она дает определенный ответ, мы заранее знаем, что ответ будет неверным, и это дает нам чувство известного превосходства. Не является ли это чувство иллюзорным? Несомненно, оно бывает довольно искренним, но я не думаю, чтобы ему следовало придавать слишком большое значение. Мы сами слишком часто даем неверные ответы на вопросы, чтобы то чувство удовлетворения, которое возникает у нас при виде погрешимости машин, имело оправдание. Кроме того, чувство превосходства может относиться лишь к машине, над которой мы одержали свою – в сущности весьма скромную – победу. Не может быть и речи об одновременном торжестве над всеми машинами. Значит, короче говоря, для любой отдельной машины могут найтись люди, которые умнее ее, однако в этом случае снова могут найтись другие, еще более умные машины, и т.д.

Я думаю, что те, кто разделяет точку зрения, выраженную в математическом возражении, как правило, охотно примут «игру в имитацию» в качестве основы дальнейшего рассмотрения. Те же, кто убежден в справедливости двух предыдущих возражений, будут, вероятно, вообще не заинтересованы ни в каком критерии.

4. Возражение с точки зрения сознания [The Argument from Consciousness]

Это возражение особенно ярко выражено в выступлении профессора Джефферсона[11] на Листеровских чтениях за 1949 год[12], откуда я и привожу цитату. «До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, т.е. что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство) радость от своих успехов, горе от постигших его неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарованным противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого».

Это рассуждение, по-видимому, означает отрицание нашего критерия. Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же, если следовать этому взгляду, то окажется, что единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Фактически эта точка зрения является солипсистской[13]. Быть может, подобные воззрения весьма логичны, но если исходить из них, то обмен идеями становится весьма затруднительным. Согласно этой точке зрения, А обязан думать, что «А мыслит, а В нет», в то время как В убежден в том, что «В мыслит, а А нет». Вместо того чтобы постоянно спорить по этому вопросу, обычно принимают вежливое соглашение о том, что мыслят все.

В русском издании статьи «Может ли машина мыслить?» к этому примечанию добавлено еще одно предложение: «Солипсизм есть крайняя форма философии субъективного идеализма». Школьная форма солипсического credo, высказываемая иногда наиболее продвинутыми учащимися на уроках обществоведения, звучит примерно так: «Вы все существуете лишь в моем воображении, реален лишь я вместе с моими чувствами и ощущениями». Между тем великий философ Людвиг Витгенштейн (1889–1951), чьи лекции по философии математики в Кембридже посещал Тьюринг, заметил как-то: «Здесь мы можем видеть, что солипсизм совпадает с чистым реализмом, если он строго продуман». Эти слова Витгенштейна были выбраны в качестве эпиграфа к рассказу известного современного писателя Виктора Пелевина «Девятый сон Веры Павловны» и определили его содержание; см. напр.: Виктор Пелевин. Синий фонарь. М.: «Текст», 1991. – Прим. И.Д.

Я уверен, что профессор Джефферсон отнюдь не желает стоять на этой крайней солипсистской точке зрения. Вероятно, он весьма охотно принял бы в качестве критерия «игру в имитацию». Эта, игра (если игрок В не участвует) нередко применяется на практике под названием viva voce (устно) для того, чтобы установить, понял ли действительно данный человек некоторую вещь, или он заучил нечто, как попугай. Вот отрывок из такой игры.

Задающий вопросы: Не находите ли Вы, что в первой строке Вашего сонета: «Сравню ль тебя я с летним днем» выражение «с весенним днем» звучало бы лучше?

Отвечающий: Оно нарушало бы размер стиха.

Задающий вопросы: А если сказать «с зимним днем»? С размером здесь все обстоит благополучно.

Отвечающий: Это так, но никто не захочет, чтобы его сравнивали с зимним днем.

Задающий вопросы: А разве мистер Пиквик не напоминает Вам Рождество?

Отвечающий: Некоторым образом да.

Задающий вопросы: Но Рождество – зимний день, и я не думаю, чтобы мистер Пиквик имел что-нибудь против этого сравнения.

Отвечающий: Я не думаю, что вы говорите все это всерьез. Когда говорят о зимнем дне, имеют в виду обычно зимний день, а не какой-то особенный, вроде Рождества.

И так далее. Что бы сказал профессор Джефферсон, если бы машина, пишущая сонеты, могла отвечать примерно так, как это было в приведенном выше отрывке из viva voce. He знаю, стал ли бы он рассматривать ответы машины лишь как «просто искусственную сигнализацию». Если бы ее ответы были столь же связными и удовлетворительными по содержанию, как в приведенном выше отрывке, я не думаю, чтобы профессор Джефферсон охарактеризовал это как дело, выполнить которое может «достаточно несложное устройство». Эту фразу из его выступления следует, по-видимому, относить к таким случаям, когда в машине имеется, скажем, граммофонная пластинка с записью сонета в чьем-либо исполнении, а также механизм, с помощью которого эту запись можно время от времени включать.

Короче говоря, я считаю, что большинство из тех, кто поддерживает возражение с точки зрения сознания [consciousness], скорее откажутся от своих взглядов, чем признают солипсистскую точку зрения. В таком случае они, по-видимому, охотно примут наш критерий.

Мне не хотелось бы создавать впечатление, будто я считаю, что в сознании нет ничего загадочного. Например, неудача наших попыток локализовать сознание похожа на парадокс. Но я вовсе не думаю, что загадки, связанные с сознанием, непременно должны быть разъяснены прежде, чем мы окажемся в состоянии ответить на вопрос, рассматриваемый в настоящей статье.

5. Возражения, исходящие из того, что машина не все может выполнить [Arguments from Various Disabilities]

Обычно эти возражения выражают в такой форме: «Я согласен с тем, что вы можете заставить машины делать все, о чем вы упоминали, но вам никогда не удастся заставить их делать X». При этом перечисляют довольно длинный список значений этого X. Я предлагаю читателю выбирать: «Быть добрым, находчивым, красивым, дружелюбным, быть инициативным, обладать чувством юмора, отличать правильное от неправильного, совершать ошибки, влюбляться, получать удовольствие от клубники со сливками, заставить кого-нибудь полюбить себя, извлекать уроки из своего опыта, правильно употреблять слова, думать о себе, обладать таким же разнообразием в поведении, каким обладает человек, создавать нечто подлинно новое».