Станислав Лем - Молох (сборник)

• Название: Молох (сборник)
• Автор: Станислав Лем
• Издательство: АСТ, АСТ Москва, Хранитель, Харвест
• Жанр: Публицистика
• Год: 2006
• ISBN: 5-17-041595-8, 5-9713-3976-1, 5-9762-2250-1, 978-985-16-0691-3

От переводчика:

«… Как отметил в своей книге „Вселенная Лема“ профессор Ягеллонского университета (г. Краков) Ежи Яжембский, Станислав Лем своим эссеистическим работам всегда давал значащие названия, великолепно отражающие и концепцию рассматриваемой проблемы, и состояние души эссеиста.

Название настоящего сборника — «Молох» — предложено самим писателем.

… Когда настоящий сборник готовился к печати, в Польше в качестве 26-го тома Собрания сочинений Станислава Лема издана книга «Молох», состоящая из двух сборников: «Тайна китайской комнаты» и «Мегабитовая бомба». Ознакомившись с содержанием книги, которую читатель держит в руках, редактор упомянутого польского Собрания сочинений Ежи Яжембский отметил, что настоящий сборник — это истинный «Молох».»

В книгу вошли сборники эссеистики Станислава Лема, практически неизвестные отечественному читателю: «Тайна китайской комнаты», «Мегабитовая бомба», «Мгновение», эссе «Тридцать лет спустя», «Прогноз развития биологии до 2040 года», фантастические рассказы последних лет, не издававшиеся ранее: «Два молодых человека», «Последнее путешествие Ийона Тихого» и др., а также в разделе «Вместо послесловия» — последние заметки автора.

---

4

Действенность генетических алгоритмов является новшеством, удивляющим меня (того, кто несколько десятков лет призывал глухой мир учиться у Госпожи Эволюции), может быть, меньше, чем математиков и программистов с биологами во главе.

Удовлетворительность экономических результатов, радующую Великий Капитал, я считаю микроскопическим явлением на фоне нового, только появляющегося взгляда на эволюционные процессы, благодаря которому они начинают раскрывать сейчас свой удивительный потенциал и не менее примечательный строгий порядок. Гены являются своеобразным алфавитом, а из них строящиеся организмы создают конструкции, по-разному архитектонично функционирующие, пожалуй, лишь с одним постоянным параметром — смертью, без которой развитие вообще не было бы возможно как прогресс (по крайней мере тот прогресс, который мы способны увидеть в размахе, отделяющем одноклеточных типа PARAMECIUM CAUDATUM[142] EHRENBERG от HOMO SAPIENS SAPIENS).

Из алфавита можно сложить как незатейливые стишки, так и шекспировские драмы и трагедии. Видимо, уже необратимо оказались мы на этой дороге, и тем самым приближается день, когда мы овладеем уже не кратчайшей геометрией коммивояжеров и не обеспечением экономизации авиационных компаний, а способностью строительства живых организмов. Что с этой способностью сможет сделать человек — такой вопрос следует оставить без ответа из-за опасений, которые приходят в голову, когда мы желаем найти на него ответ.

5

Не следует считать, что проблемы типа «NP», разламываемые при помощи генетических алгоритмов, — это уже ВСЕ в сущности проблемы, с которыми можно еще встретиться. Существуют, естественно, и такие задачи, в которых генетической алгеброй, генетическими алгоритмами добраться к цели не удастся. И также никто не должен считать, что мы благодаря представленным выше открытиям уже достигли вершины знаний и тем самым уже все теоретико-практические трудности на будущих наших дорогах будем способны преодолеть. Считаю открытия, сделанные благодаря генетике, так же, как и открытия дирижерских генов (HOX), важнейшими шагами, которые были сделаны в области биологии в двадцатом веке. Технологии, рожденные жизнью и имеющие внебиологическую применимость, я всегда считал совершенными SUI GENERIS, и поэтому в глуши шестидесятых годов тщетно писал о том, как много пользы (и как ужасно много опасностей) станет нашим трофеем, когда выйдем из области жизни, применяя подсмотренные у жизни инструменты и стратегии, в человеческий мир. Думал и о том, что эффекты, порожденные этим, может быть, окажутся и нечеловеческими, но чрезмерно и не предостерегал, успокоенный тем, что когда я вещал о добре или зле, никто меня не слушал. Что, впрочем, является естественным ходом вещей и делом не особенно важного значения.

Умные роботы[143]

1

Огромное количество теоретиков и практиков разных специальностей, существующих на Земле, работают в последнее время над тем ответвлением Искусственного Интеллекта, которому можно приписать sui generis схожесть с человеческим складом ума или, говоря с осторожностью более широко, со складом ума животных.

2

На чем это сходство должно основываться? Проблема поддается разделению на «архитектоническую часть» (например, на то, какие нейроподобные сети следовало бы сконструировать, какие процессоры и т. д.) и на теоретическую часть с явным философским привкусом. Здесь я займусь второй частью, ибо проблема архитектоники строительного материала псевдоразума так же второстепенна, как и проблема, содержащаяся в вопросе, как должно двигаться транспортное средство по пересеченной местности: при помощи гусениц или каких-то специального вида колес, подобных тем, при помощи которых передвигались американские и советские лунные машины.

3

Сконцентрированные и сокращенные до основного стержня «философские вопросы» приводят к следующей проблеме: каким образом ввести в «разум робота» ВОЛЕВУЮ составляющую. Самая лучшая шахматная программа в самом быстром на сегодняшний день компьютере не содержит ни одного волевого компонента. Она обладает примерно таким же «стремлением к заданной (престабилизированной) цели», как металлический шар, разбивающий стены, которые мы хотим разрушить, или как снаряд, выпущенный из пушки. Программа некоторым образом имитирует желание достичь заданной сверху цели, а разница между движущимся снарядом и очередным шахматным ходом основывается на том, что снаряд «по дороге к цели» не наталкивается на мешающие ему преграды (точнее, «не должен» натолкнуться благодаря знанию артиллеристов, которое наверняка «находится вне пушек и снарядов»), в то же время дорогу к цели (каковой является поставленный противнику МАТ) затрудняет программе тот же противник своими ходами, которые должны полностью свести на нет «постановку мата» программой.

4

Подражание волевым актам или «хотению» чего-либо, разумеется, возможно, но это тоже есть чистая имитация, ничего общего с подлинным актом воли не имеющая. Если, например, программа должна искусно имитировать волевые акты, программист должен предвидеть, какие возможные препятствия программа встретит и каким образом она должна им «противостоять». Таких возможных преград должно быть много или очень много. На очередной вопрос, необходимо ли все «поддающиеся предвидению» преграды explicite запрограммировать (или предвидеть весь их набор, ограниченный сверху), можно ответить, что так быть не должно. Естественная эволюция не действует так, чтобы «программы», действующие в живых созданиях, смогли справиться со «всеми возможными преградами». Известно, например, что хотя мухи уже сотни лет могут, ПОТОМУ ЧТО так запрограммированы, живо выскользнуть из-под хлопушки для мух, они не способны «разгрызть» загадку СТЕКЛА (окна). С точки зрения их образа жизни способность мух к «обучению» (или к созданию видовых условных рефлексов) по сравнению с пчелами очень мала, поскольку пчелы овладели даже «сигнальным языком», так как он был им необходим в искусстве выживания (survival of the fittest). ЭТИМ искусством, не заданным извне ПРОГРАММИСТОМ, а попросту являющимся результатом долгих серий процесса естественного отбора, никакие сконструированные людьми роботы еще не овладели. Мы можем развивать имитацию «воли выживания», писать научные трактаты о квазиволевом функционировании, конструировать все более сложные псевдонейронные сети, но мы не сможем опуститься до молекулярного уровня, на котором уже вирусы и бактерии умеют так «перетасовывать» свои геномы, что способны избежать или преодолеть разрушающие их действия лекарств (например, антибиотиков). Это обычно и происходит для нейтрализации губительного (для микроорганизмов) биохимического действия лекарства или с целью такого изменения антигенной структуры микроорганизма, что «лекарство не может его найти». Иногда я использую метафорические определения, так как иначе я должен был бы приводить длинные и сложные рассуждения в физических, химических или биохимических терминах, от которых предпочитаю отказаться, ибо мне здесь важно только то, что зачатки «хотения», зародыши волевых актов уже можно найти в наиболее простых живых организмах.

5

Необходимо четко уяснить, что в области, в которую мы вступили, никакие запутанные ухищрения не помогут. Движение стрелок часов может быть вызвано пружиной, электромоторчиком, гирей — в последнем случае часы своему мерному ходу обязаны земной гравитации, и там, где ее нет, как на орбите, они идти уже не могут. В каждом таком примере движение векторно сориентировано «сверху», то есть часовщиком-конструктором. В то же время мы ведем речь о том, чтобы «электронный мозг», компьютерный «разум» (или как его еще назвать) робота имел в виду, психически воспринимал, предвидел ЦЕЛИ, к которым он будет двигаться, при этом о его отдельных решениях, создающих смысловое единство, мы заранее знать не будем, как не знаем, какие решения будет принимать полярник в своем походе на полюс или на гору Эверест. Иначе говоря, речь идет о прогрессирующей, адаптационно успешной суверенизации робота — в последней фазе совершенствования волевых актов он, возможно, будет равен человеку…

6

Среди экспертов повсеместно преобладает распространенное убеждение, что миллиарды лет, которые в результате организовали кембрийский взрыв видов, а стало быть, и многообразные формы survival of the fittest, может «напрямую» заменить человеческий разум. Если мы все тщательно продумаем и создадим необходимые теоретические науки, то нас быстро окружат роботы, обладающие «волей», которых мы сможем «подговорить» и направить на достижение необходимых НАМ целей. Однако при такой возможности не в виде исключения следует учесть и то, что такие роботы смогут достигать указанных им целей не как плохо нацеленный снаряд, а как неблагодарный ребенок или как выпестованный нами вредитель. Наделенные волевой суверенностью роботы могут нам сопротивляться — и здесь я не имею в виду излюбленный из-за примитивизма воображения «бунт» роботов против человека. Я думаю только о том, что когда количество степеней свободы поступков увеличивается, то уже не «только добро» будет следовать из этого, ибо в свободе может сформироваться и некое «зло». В естественной эволюции это видно даже слишком хорошо, и эти размышления могут немного затормозить нашу намеренность наделить роботов «свободной волей».