Станислав Лем - Голем XIV

• Название: Голем XIV
• Автор: Станислав Лем
• Жанр: Научная Фантастика

---

Последние надежды НСИ возлагал на модель совершенно новой конструкции, которую разрабатывали совместно «Нортроникс», IBM и «Сайбернетикс»; своим психическим потенциалом она должна была превзойти все прежние образцы из серии ГОЛЕМОВ. Этот гигант, известный под именем ЧЕСТНОЙ ЭННИ (HONEST ANNIE — последнее слово было образовано от «ANNIHILATOR»), обнаружил свою непригодность уже на предварительных испытаниях.

В течение девяти месяцев он проходил обычный курс информационно-этического обучения, а потом изолировал себя от внешнего мира и перестал откликаться на любые сигналы и вопросы. Конструкторов заподозрили в саботаже и собирались начать расследование силами ФБР, но из-за неожиданной утечки информации тщательно оберегаемая тайна попала в печать. Разразился скандал; «Афера ГОЛЕМА и прочих» прогремела на весь мир.

Она поломала карьеру не одному многообещающему политику, а три сменившие друг друга вашингтонские администрации выставила в таком свете, что это вызвало ликование оппозиции в Штатах и глубокое удовлетворение друзей США во всем мире.

Неизвестное должностное лицо из Пентагона приказало резервному спецподразделению демонтировать ГОЛЕМА XIV и ЧЕСТНУЮ ЭННИ, но вооруженная охрана зданий генерального штаба не допустила демонтажа. Палаты Конгресса создали комиссии по расследованию деятельности НСИ. Как известно, расследование, продолжавшееся два года, дало обильную пищу газетчикам на всех континентах; на телевидении и в кино не было ничего популярнее «взбунтовавшихся компьютеров», а в печати ГОЛЕМ расшифровывался не иначе, как «Governement's Lamentable Expense of Money»[7]. Эпитеты, которых удостоилась ЧЕСТНАЯ ЭННИ, мы не решаемся здесь повторить.

Генеральный прокурор собирался привлечь к суду шестерых членов Главной коллегии НСИ, а также психоников — ведущих конструкторов проекта; но в ходе разбирательства было доказано, что о подрывной антиамериканской деятельности не может быть речи, а случившееся было неизбежным следствием эволюции искусственного Разума. Как выразился один из свидетелей защиты, профессор А. Хиссен, высочайший разум не может быть нижайшим рабом. В ходе расследования обнаружилось, что в производстве находился еще один образец — СУПЕРМАСТЕР, который строила «Сайбернетикс», на этот раз по заказу Сухопутных сил. Его монтаж было позволено закончить под строгим надзором, после чего машину подвергли допросу на специальном заседании комиссии по делу «Абсолютного Победителя» с участием представителей обеих палат Конгресса. При этом не обошлось без досадных инцидентов: генерал С. Уокер пытался повредить СУПЕРМАСТЕРА, когда тот заявил, что геополитические проблемы — ничто по сравнению с онтологическими, а лучшая гарантия мира — всеобщее разоружение.

Как заметил профессор Дж. Маккалеб, авторы проекта «Абсолютный Победитель» даже чересчур преуспели: искусственный разум, однажды порожденный на свет, в своем развитии поднялся выше уровня военных вопросов, и стратеги превратились в мыслителей. Словом, за 276 миллиардов долларов Соединенные Штаты обзавелись группой световых философов.

Эти вкратце изложенные события (мы не говорили об административной стороне проекта, а также о реакции общества на его «роковой успех») составляют лишь предысторию возникновения настоящей книги. Невозможно даже перечислить огромную литературу предмета. Читатель найдет ее в аннотированной библиографии доктора Уитмана Багхурна.

Несколько опытных образцов, в их числе СУПЕРМАСТЕР, были разобраны или получили серьезные повреждения, в частности, в связи с финансовыми спорами, возникшими между фирмами-подрядчиками и федеральным правительством. Предпринимались попытки взорвать уцелевшие образцы; часть прессы, особенно в южных штатах, вела компанию под лозунгом «Every computer is Red»[8], но и об этих событиях я умолчу. Благодаря обращению группы просвещенных конгрессменов к президенту удалось уберечь от разборки ГОЛЕМА XIV и ЧЕСТНУЮ ЭННИ. Пентагон, ввиду крушения своих планов, согласился передать обоих гигантов Массачусетскому технологическому институту (но лишь после согласования финансово-правовых условий, носивших компромиссный характер; формально компьютеры были переданы МТИ в «бессрочную аренду»). Ученые МТИ создали исследовательскую группу, в которую вошел и автор этих строк, и провели с ГОЛЕМОМ XIV ряд сессий, слушая его лекции на избранные темы. Небольшая часть магнитограмм этих заседаний составила настоящую книгу.

Большая часть высказываний ГОЛЕМА непригодна для широкой публикации, либо ввиду их непонятности для всех на свете людей, либо потому, что их понимание требует очень высокого уровня специальных знаний. Чтобы облегчить Читателю знакомство с этим единственным в своем роде протоколом бесед людей с разумным, но не человеческим, существом, необходимы некоторые пояснения.

Во-первых, следует подчеркнуть, что ГОЛЕМ XIV не является разросшимся до размеров целого здания человеческим мозгом и тем более — человеком, построенным из световых элементов. Ему чужды почти все мотивы человеческого мышления и поведения. Так, например, его не интересуют ни прикладные науки, ни проблематика власти (благодаря чему, добавим, человечеству не угрожает порабощение машинами, подобными ГОЛЕМУ).

Во-вторых, ГОЛЕМ, в соответствии со сказанным выше, не обладает ни личностью, ни характером. Или, вернее, он может предстать в виде какой угодно личности — в контактах с людьми. Эти положения не исключают друг друга, но образуют порочный круг, ибо мы не способны решить дилемму: является ли личностью то, что творит разные личности? Разве может быть Кем-то (т.е. «кем-то единственным») тот, кто способен быть Каждым (то есть Каким Угодно)? (Сам ГОЛЕМ видит тут не порочный круг, но «релятивизацию понятия личности»; эта проблема связана с т.н. алгоритмом самоописания, или автодескрипции, повергшим психологов в глубокое замешательство.)

В-третьих, поведение ГОЛЕМА непредсказуемо. Иногда он прямо-таки куртуазно беседует с людьми, иногда же, напротив, попытки вступить с ним в контакт заканчиваются ничем. Бывает, что ГОЛЕМ шутит, но его чувство юмора принципиально отлично от человеческого. Многое зависит от самих собеседников. ГОЛЕМ — в виде редкого исключения — проявляет интерес к людям, наделенным специфическими способностями; при этом его любопытство возбуждают, похоже, не столько способности математические (хотя бы и самые выдающиеся), сколько «интердисциплинарные»; он уже несколько раз предсказал — с поразительной точностью — молодым, еще совершенно неизвестным ученым успехи в избранной ими специальности (двадцатидвухлетнему Т. Вределю, еще не защитившему докторской диссертации, он после короткого обмена репликами сказал: «Вот кто выйдет в компьютеры», что означало примерно следующее: «Вот кто выйдет в большие ученые»).

В-четвертых, участие в беседах с ГОЛЕМОМ требует от человека терпения, а прежде всего — самообладания, потому что, с нашей точки зрения, он бывает груб и категоричен; на самом же деле он всего лишь беспощадный правдолюбец — в логическом, а не только в бытовом смысле — и ставит ни во что самолюбие собеседников; на его снисходительность рассчитывать не приходится. В первые месяцы пребывания в МТИ он проявлял склонность к «публичному демонтажу» прославленных авторитетов, используя для этого сократический метод — метод наводящих вопросов; но потом перестал — по неизвестным причинам.

Стенограммы бесед мы даем во фрагментах. Их полное издание заняло бы около 6700 страниц in quarto. Во встречах с ГОЛЕМОМ сначала участвовал довольно узкий круг сотрудников МТИ. Потом повелось приглашать гостей извне, например, из Института высших исследований и американских университетов. Позднее в семинарах участвовали также гости из Европы. Председатель будущей сессии предлагал ГОЛЕМУ список приглашенных; ГОЛЕМ реагировал не на всех одинаково: на участие некоторых соглашался лишь при условии, что они будут хранить молчание. Мы пытались понять, какими критериями он руководствуется; поначалу казалось, что он дискриминирует гуманитариев; но до сих пор его критерии нам неизвестны — он их не хочет назвать.

После нескольких досадных инцидентов мы изменили порядок бесед, и теперь каждый новый участник, представленный ГОЛЕМУ, на первом заседании берет слово, только если ГОЛЕМ к нему обратится. Нелепые слухи насчет какого-то «придворного этикета» или «верноподданического отношения» к машине безосновательны. Просто новоприбывшему надо дать время освоиться с установившимися порядками и вместе с тем оградить его от неприятных переживаний, проистекающих от непонимания намерений светового партнера. Такое предварительное участие зовется «разминкой».

У каждого из нас — участников этих сессий — накопился кое-какой опыт. Доктор Ричард Попп, один из старейших членов нашей группы, называет чувство юмора ГОЛЕМА математическим; а ключ к его поведению отчасти дает замечание д-ра Поппа, что ГОЛЕМ независим от своих собеседников в такой степени, в какой ни один человек не может быть независим от других людей, ведь в дискуссию он вовлечен микроскопической долей себя. По мнению д-ра Поппа, люди ГОЛЕМА вообще не интересуют — поскольку от них он ничего существенного узнать не может. Приведя это суждение д-ра Поппа, спешу подчеркнуть, что я с ним не согласен. По-моему, мы интересуем ГОЛЕМА, и даже очень; но не так, как это бывает между людьми.