Тед Чан - Жизненный цикл программных объектов

• Название: Жизненный цикл программных объектов
• Автор: Тед Чан
• Жанр: Научная Фантастика

Самая большая на сегодняшний день работа Теда Чана в определенной мере посвящена поискам путей создания AI (Artificial Intelligence) — Искусственного Интеллекта. Но, вероятно, в еще большей степени посвящена она людям, работающим с носителями AI, дигитантами — дигитальными сущностями, которые, облеченные в симпатичные аватары развиваются и обучаются на специальных «планетах»-платформах, где они могут, освоив человеческую речь, общаться как со своими создателями, так и друг с другом.

Автор, сам работающий в компьютерной индустрии, точно и нередко безжалостно рисует проблемы, существующие в ней, технические (такие, как несовместимость платформ, с чем сталкивается и обычный пользователь сегодня), и человеческие: появление новых — пусть и виртуальных — существ (дигитантов) влечет за собой проблемы и этического характера. Многие, купив забавных питомцев, начинают понимать, что хлопот с ними предостаточно (обучение, необходимость совместных игр) и… нередко усыпляют их. То есть, попросту выключают, убеждая себя, что делают это на время.

Разработчики, наделив дигитантов робо-телом, т. е. загрузив AI дигитантов в корпус робота, вводят их тем самым в наш, реальный мир, что влечет за собой целый ряд открытий и проблем, включая такую, как предложение использовать «воплощенных» дигитантов в качестве сексуальных партнеров.

Конфликты, возникающие между людьми – даже любящими людьми – возникают из-за того, что с такой ясностью выразил Антуан де Сент-Экзюпери: «Ты навсегда в ответе за всех, кого приручил».

Эта небольшая повесть Чана поднимает необычно большой круг проблем: концептуальных (подход к проблеме AI у автора и оригинален, и глубок), технологических, этических. Эта книга в такой же степени о дигитальных сущностях, как и о нас.

---

Дереку вся эта идея кажется смешной: толпа заброшенных детей не станет толпой самоучек, сколько бы книг ей не оставили, так что он не удивился, прочитав о результатах, — каждая тестовая популяция в конце концов дичает. В дигитантах недостаточно агрессии, чтобы скатиться до жестокости в стиле «Повелителя мух». Они просто разбиваются на неиерархические группки. Поначалу распорядок дня в каждой группке поддерживается силой привычки: они читают или пользуются обучающими программами, когда наступает время занятий, или идут играть — но без побуждения и закрепления все эти виды активности расстыковываются и расплетаются, как дешевая бечевка. Каждый предмет становится игрушкой, каждая пядь пространства — игровой площадкой, и постепенно дигитанты теряют все навыки, которые у них были. У них развивается некое подобие собственной культуры, вероятно, такой, какая выработалась бы у диких дигитантов, если бы они выросли в биомах, предоставленные сами себе.

И как бы оно ни было интересно, все это невероятно далеко оттого, чего пытались добиться исследователи, поэтому они решают перепроектировать острова. Они пытаются максимально разнообразить тестовые популяции, обратившись с просьбой к владельцам «образованных» дигитантов пожертвовать им копии. К удивлению Дерека, они действительно получили от владельцев несколько таких дигитантов — владельцев, которым надоело платить за уроки чтения и они удовлетворились тем, что одичавшие дигитанты не будут страдать. Исследователи изобретают различные стимулы — все автоматизированные, чтобы не возникала необходимость общения с дигитантами в режиме реального времени, — чтобы поддерживать мотивацию дигитантов. Они затрудняют дигитантам существование, с тем чтобы лень и праздность не оставались безнаказанными. И хотя несколько скорректированных тестовых популяций избежали одичания, ни одна из них не поднялась до уровня технологической изощренности.

Исследователи вынесли заключение, что в геноме Оригами чего-то недостает, но, по мнению Дерека, вина лежала на самих исследователях. Они не желали понять простой истины: сложные умы не могут развиваться сами по себе. Если бы такая возможность существовала, одичавшие дети не отличались бы от остальных своих «домашних» ровесников. Разум не растет так, как растут сорняки, которые благополучно процветают при безразличном к ним отношении. В противном случае все дети в сиротских домах преуспевали бы. Для того чтобы разум раскрыл все свои возможности, ему нужна помощь в развитии со стороны других разумов. Именно такое развитие он старается дать Марко и Поло.

Марко и Поло время от времени ссорятся, но сердятся друг на друга не долго. Однако несколько дней назад они поскандалили из-за того, было ли справедливо, что Марко инстанцировали раньше, чем Поло, — и ссора почему-то разгорелась не на шутку, С тех пор дигитанты не разговаривали друг с другом, и Дерек испытывает немалое облегчение, когда они подходят к нему вдвоем.

— Приятно видеть, что вы снова вместе. Помирились, ребята?

— Нет! — говорит Поло. — До сих пор сердитый.

— Мне жаль это слышать.

— Мы два хотим твою помощь, — говорит Марко.

— О’кей, что я могу сделать?

— Хотим, чтобы ты сделал откат в прошлую неделю, до нашей ссоры.

— Что? — Он никогда не слышал, чтобы дигитант просил вернуть его к последнему чекпойнту. — Но почему вы этого хотите?

— Я хочу не помнить большую ссору, — говорит Марко.

— Я хочу быть счастливый, а не сердитый, — соглашается с ним Поло. — Ты ведь тоже хочешь, чтобы мы быть счастливые, да?

Дерек решает не затевать дискуссию о разнице между их нынешним состоянием и состоянием, сохраненным в чекпойнте.

— Конечно, хочу, но я не могу откатывать вас к чекпойнту каждый раз, когда вы поссоритесь. Подождите немного, и вы перестанете злиться.

— Ждал, до сих пор злой, — говорит Поло. — Ссора большая, большая. Хочу, чтобы ее никогда не было.

Самым успокаивающим тоном Дерек произносит:

— Да, но ссора была, и вам с этим придется примириться.

— Нет! — вопит Поло. — Я злюсь, я злюсь! Хочу, чтобы ты все исправил!

— Почему ты хочешь, чтобы мы злились вечно? — спрашивает Марко.

— Я не хочу, чтобы вы злились вечно, я хочу, чтобы вы простили друг друга. Но если вы не можете этого сделать, нам всем троим придется смириться с тем, что произошло.

— Теперь злюсь и на тебя тоже! — заявляет Поло.

Дигитанты гневно удаляются в противоположных направлениях, а Дерек размышляет о том, верное ли решение он принял. Воспитывать Марко и Поло не всегда было легко, но он никогда не откатывал их к последнему чекпойнту. До сих пор такая стратегия работала, но он не уверен, что она сработает и впредь.

Не существует инструкций и руководств по воспитанию дигитантов, а приемы, рассчитанные на домашних животных или детей, приносят удовлетворительный результат лишь в половине случаев. Дигитанты обитают в простых телах, и их путь к зрелости не отягощен турбулентными вихрями и внезапными потрясениями, причина которых — гормоны органического тела, но это не значит, что они не подвержены перепадам настроения, как не значит это и того, что их личность никогда не изменится; их мышление постоянно продвигается в новые регионы фазового пространства, определенного геномом Нейровзрыва. В принципе возможно, что дигитанты никогда не достигнут «зрелости»; идея стагнации в развитии основана на определенной биологической модели, которая может быть и неприменимой к дигитантам. Возможно, их личности будут развиваться в том же темпе до тех пор, пока дигитанты остаются активными. Только время покажет.

Дереку хочется поговорить с кем-нибудь о том, что только что случилось с Марко и Поло; к сожалению, человек, с которым он хотел бы поговорить, не его жена. Венди понимает возможности развития дигитантов, она видит, что Марко и Поло становятся все более развитыми и способными пропорционально заботе о них. Просто она не может проникнуться энтузиазмом ко всей этой ситуации. Возмущенная тем, сколько времени и внимания он уделяет дигитантам, она бы увидела в их просьбе об откате прекрасную возможность выключить их на неопределенное время.

Человек, с которым он хотел бы поговорить, конечно же, Ана. То, что раньше было безосновательными опасениями Венди, произошло — он испытывает к Ане чувства, выходящие за рамки дружбы. Однако это не причина проблем, которые возникли у него с Венди, а, скорее, результат. Время, которое он проводит с Аной, для него служит утешением, дает возможность испытывать удовольствие от общения с дигитантами, не оправдываясь и не извиняясь. Когда он сердит, ему кажется, что трещина в отношениях с Венди — ее вина, успокоившись, он понимает, что это не совсем справедливо.

Важно то, что он в своем поведении не руководствуется чувствами к Ане — и не собирается этого делать впредь. Ему нужно сконцентрироваться на том, чтобы прийти к согласию с Венди в вопросе о дигитантах. Если ему удастся это сделать, то искушение, связанное с Аной, должно пройти. А до тех пор ему следует проводить с ней меньше времени. Это будет нелегко: учитывая то, насколько мало сообщество владельцев дигитантов, общение с Аной неизбежно. Кроме того, он не хочет, чтобы Марко и Поло страдали из-за его проблем. Дерек не знает, что ему предпринять, но пока он воздерживается от звонка Ане, а вместо этого размещает свой вопрос на форуме.

Проходит еще год. Течения в глубинах рынка меняются, а виртуальные миры реагируют на эти перемены тектоническими сдвигами: разработана новая платформа под названием «Реальное Пространство», использующая последние достижения в архитектуре распределенной обработки[27]. Вскоре она становится наиболее активной площадкой для формирования дигитальных территорий. В то же время «Гдеугодно» и «Другое Измерение» прекратили экспансию своих границ, застыв в стабильной конфигурации. «ООПП Земля», издавна бывшая неотъемлемой частью вселенной виртуальных миров, устойчива к рывкам вверх или резким скатам вниз, но теперь ее топография начинает разрушаться: один за другим ее виртуальные участки суши исчезают, как острова в реальном мире, затопляемые приливной волной потребительского безразличия.

Тем временем неудачи «инкубаторских» экспериментов по выведению миниатюрных цивилизаций вызвали падение интереса к дигитальным формам жизни. Иногда в биомах возникает любопытная новая фауна, появляются виды с экзотическим строением тела или новой стратегией размножения, но в принципе все согласны с тем, что биомы работают с недостаточной для эволюции реального разума разрешающей способностью. Компании, разработавшие геном-движки Оригами и Фаберже неуклонно движутся к закату своей деятельности. Многие эксперты заявляют, что дигитанты — тупик, доказательство того, что воплотившийся, наделенный телом И И не годен ни на что, кроме развлечений. Это мнение преобладает до момента появления нового геном-движка под названием Софонс.