Георгий Далидович - Заметки об искусственном интеллекте

• Название: Заметки об искусственном интеллекте
• Автор: Георгий Далидович
• Жанр: Прочая научная литература

---

5. Компьютер не может быть добр, находчив, дружелюбен, обладать инициативой, чувством юмора, различать правильное и неправильное, делать ошибки, влюбляться, лакомиться земляникой и побудить кого-то к этому, использовать слова должным образом и быть предметом своих собственных мыслей.

Возражение. Почему нет? Хотя такой компьютер не был пока создан, все же это возможно в будущем.

6. Компьютер никогда не сможет создать что-либо оригинальное или удивительное. Он делает только то, что заложено в программу.

Возражение. Откуда вы знаете, что так называемое "оригинальное" человеческое произведение не есть лишь росток того, что было заложено с воспитанием и образованием либо является просто применением общих принципов? И почему вы считаете, что правильный ответ компьютера на сложный вопрос, не согласующийся с грубым и ошибочным первоначальным предположением человека, не является "оригинальным" и "удивительным"?

7. Нервные клетки имеют плавную шкалу возможной электрической активности. Вы можете ощущать: "чуть-чуть", "немного", "что-то вроде", в то время как компьютер различает только два возможных логических состояния — "да" или "нет".

Возражение. Используя "генератор случайных чисел", можно заставить компьютер имитировать неустойчивое и вероятностное поведение нервной системы, так что наблюдатель не сможет заметить разницы.

8. Невозможно всю жизнь разложить на правила. Например, если правила дорожного движения требуют остановиться при красном свете и продолжать движение при зеленом, что вы будете делать, если светофор испортился и одновременно горят красный и зеленый огни? Возможно, следует добавить новое правило, предписывающее остановиться и в этом случае, но и оно не будет исчерпывать все возможные варианты. Так как поведение компьютера управляется правилами, то заведомо будут существовать ситуации, когда он окажется беспомощен или допустит ошибку.

Возражение. Хотя жизнь не исчерпывается набором правил, можно определить ряд наиболее общих принципов поведения, свойственных человеческой психике, и обучить им машину.

9. Человек обладает экстрасенсорным восприятием, а компьютер — нет.

Возражение. Возможно, что генератор случайных чисел сможет оказывать на поведение машины такое же влияние, как и экстрасенсорное восприятие на поведение человека. В крайнем случае при проведении теста можно попытаться исключить его влияние соответствующей экранировкой.

Не правда ли, сейчас, по прошествии полувека, многие из мыслей Тьюринга и его гипотетического оппонента выглядят не более чем забавными. Да и сама затея с размещением испытателя и испытуемого в изолированных комнатах с терминалами уже кажется наивной. Во-первых, машины вполне сносно воспринимают и воспроизводят устную речь и могут даже имитировать выражение эмоций на своем синтезированном "лице", а во-вторых, условия теста выполняются с буквальной точностью в любом чате или форуме, который уже стал частью реальности для многих из нас. Интернет является той искусственной средой, в которой несовершенство рецепторов искусственного интеллекта не оказывает влияния на его восприятие виртуального мира.

Конечно, тест Тьюринга не полностью отвечает современным представлениям об искусственном интеллекте. Но главное, наверное, не в наивном оптимизме Тьюринга по поводу возможностей его машины, а в тех ограничениях ее возможностей, которые он видел лучше других и которые он не привел в списке типичных возражений примитивного "антропоцентриста". В частности, он сформулировал понятие "оракула Тьюринга" (oracle), способного работать с "невычисляемыми числами" (uncomputable numbers), о котором написано только то, "что — это, очевидно, не может быть машиной". Сами же "невычисляемые числа" возникают в результате "неразрешимой" ситуации и являются причиной остановки машины Тьюринга. Именно над проблемой этих "невычисляемых чисел", которые, на современном жаргоне, способны "завешивать" систему, и работал Тьюринг на протяжении нескольких десятилетий.

Первобытные люди примерно одновременно перестали быть просто стадными животными и создали себе первую примитивную систему верований. Оракул или Бог являлся необходимым условием определенного уровня развития интеллекта — как для машины Тьюринга, так и в человеческой истории. В этом есть причинно-следственная связь, а не просто формальное совпадение. Тонкая и неуловимая грань отличает машину от человека, как, впрочем, и одного человека от другого. Машина станет чем-то большим, чем просто машиной, когда создаст себе "сверхъестественный" способ решения неразрешимых ситуаций и нахождения ответов на "невычисляемые" вопросы. Но ведь отнюдь не каждый человек способен к этому, что, впрочем, не лишает его права считаться человеком. Однако мы уже выяснили, что считаться и являться — не всегда означает одно и то же.

Главный вывод заключается в том, что создание искусственного интеллекта является закономерным этапом общего эволюционного процесса, а его "искусственность" не имеет принципиального значения. В процессе естественного отбора и соревнования искусственного и естественного интеллекта доминирующей станет именно та компонента глобального сознания, которая сможет наиболее эффективно адаптироваться к условиям окружающей среды, в том числе и различных виртуальных реальностей. Вероятно, этой компонентой будет именно кибернетическая, но она уже не будет "искусственной", так как пройдет процесс естественного отбора, и будет включать в себя все достижения биологической составляющей, открывая дорогу к реальному бессмертию индивидуальной личности с сохранением персональной памяти.

Алан Тьюринг был лаконичен, сформулировав тезис о том, что "наука — это дифференциальное уравнение, а религия — граничное условие". Важно соблюсти это "граничное условие". Сложной личности и трагической судьбе Алана Тьюринга будет посвящена следующая статья цикла.

Маргаритки Тьюринга

У каждой идеи, как и у человека, есть своя судьба, свой путь развития. Часто судьбы людей и идей бывают очень странными и неожиданными, по крайней мере, совершенно очевидно, что известность и признание приходят не к тем людям и идеям, которые, как это кажется на первый взгляд, их заслуживают. Но если у идеи время существования не ограничено, и, часто по прошествии десятилетий или веков, все становится на свои места, то для конкретного человека, носителя этой идеи, подобные временные рамки оказываются неприемлемыми. Возможно, наше представление о справедливости искажено сиюминутными интересами и заблуждениями, но, скорее всего, сами принципы того, что мы считаем справедливостью, не согласуются с некоторыми общими законами, которые, собственно, и управляют жизнью идей и людей.

История жизни Алана Тьюринга и его идей является ярким примером этого противоречия. Нельзя сказать, что имя Тьюринга совсем неизвестно или забыто, но для большинства людей, связанных с прикладной математикой и кибернетикой, оно прежде всего ассоциирует с названием теста, являющегося критерием для определения "искусственного интеллекта". Достаточно узкому кругу специалистов известна концепция "машины Тьюринга" — первое теоретическое описание устройства, способного изменять собственную программу на основе своего "жизненного опыта". Этим вопросам была посвящена предыдущая статья цикла. Однако реальное влияние идей Тьюринга на то, что мы живем именно в таком мире, который сейчас нас окружает, гораздо более значительно. Влияние это было опосредованным, через его статьи, понятные и доступные лишь немногим. Последователи смогли реализовать многие из его идей, но, отнюдь не разрешить те противоречия, которые и были истинными источниками его работ. Кроме того, в отличие от большинства математиков, которым свойственен "кабинетный" образ жизни и существование в абстрактном идеальном мире, важная часть его работы и жизни была нацелена на совершенно конкретную задачу — создание "Бомбы" для "Энигмы". Но об этом — позднее. Значительная часть его работ нашла признание еще при жизни, но конец его карьеры и загадка смерти имеют свое решение, если, конечно, имеют, отнюдь не на страницах полицейских отчетов.

Многие понятия, которые использовал Тьюринг в своих исследованиях, стали носить его имя: "машина Тьюринга", "мир Тьюринга", "тест Тьюринга", "оракул Тьюринга" — это происходило не от чрезмерного самомнения или желания увековечить свою фамилию, просто аналогов используемым понятиям не находилось. Многое делалось специфическим, свойственным только Тьюрингу способом. Название шоссе в Манчестере "Alan Turing Way" подчеркивает этот исключительный "путь Тьюринга" во всем, что он делал, в том, как он жил, и как решил умереть.