Тед Чан - Жизненный цикл программных объектов

• Название: Жизненный цикл программных объектов
• Автор: Тед Чан
• Жанр: Научная Фантастика

Самая большая на сегодняшний день работа Теда Чана в определенной мере посвящена поискам путей создания AI (Artificial Intelligence) — Искусственного Интеллекта. Но, вероятно, в еще большей степени посвящена она людям, работающим с носителями AI, дигитантами — дигитальными сущностями, которые, облеченные в симпатичные аватары развиваются и обучаются на специальных «планетах»-платформах, где они могут, освоив человеческую речь, общаться как со своими создателями, так и друг с другом.

Автор, сам работающий в компьютерной индустрии, точно и нередко безжалостно рисует проблемы, существующие в ней, технические (такие, как несовместимость платформ, с чем сталкивается и обычный пользователь сегодня), и человеческие: появление новых — пусть и виртуальных — существ (дигитантов) влечет за собой проблемы и этического характера. Многие, купив забавных питомцев, начинают понимать, что хлопот с ними предостаточно (обучение, необходимость совместных игр) и… нередко усыпляют их. То есть, попросту выключают, убеждая себя, что делают это на время.

Разработчики, наделив дигитантов робо-телом, т. е. загрузив AI дигитантов в корпус робота, вводят их тем самым в наш, реальный мир, что влечет за собой целый ряд открытий и проблем, включая такую, как предложение использовать «воплощенных» дигитантов в качестве сексуальных партнеров.

Конфликты, возникающие между людьми – даже любящими людьми – возникают из-за того, что с такой ясностью выразил Антуан де Сент-Экзюпери: «Ты навсегда в ответе за всех, кого приручил».

Эта небольшая повесть Чана поднимает необычно большой круг проблем: концептуальных (подход к проблеме AI у автора и оригинален, и глубок), технологических, этических. Эта книга в такой же степени о дигитальных сущностях, как и о нас.

---

На игровой площадке Джакс восклицает:

— Я выиграл!

Во что они с Марко играют, понять сложно, но сейчас Джакс победно раскачивается из стороны в сторону.

— О’кей, — говорит Марко, — твоя очередь.

Он роется в игрушках, находит казу[23] и вручает Джаксу.

Джакс берет один конец казу в рот, опускается на колени и начинает ритмично толкать Марко в низ живота другим концом инструмента.

— Джакс, что ты делаешь? — спрашивает Ана.

Джакс вынимает казу изо рта.

— Делаю Марко минет.

— Что?! Где и когда ты видел минет?

— Вчера, по телевидению.

Она смотрит на экран виртуального телевизора: сейчас на нем детский мультфильм. Программы телевидения здесь должны состоять из детских видео. Значит, вчера кто-то, воспользовавшись хакерскими инструкциями ФСИ, вставил в программу порнофильм. Ана решает не устраивать разборок с дигитантами на эту тему.

— О’кей, — говорит она, и Джакс с Марко возвращаются к своей «игре».

Ана оставляет на форумах посты, предупреждающие участников о том, что кто-то взломал видеосистему, и продолжает читать сообщения, написанные другими.

Несколькими минутами позже Ана слышит незнакомый звук, похожий на писк младенца, и видит, что Джакс, как и все остальные дигитанты, сидит у телевизора. Она ведет свой аватар к их группе, чтобы посмотреть, что же привлекло их внимание.

На экране виртуального телевизора некто в аватаре клоуна прижимает к земле дигитанта с аватаром щенка и раз за разом бьет его по ногам молотком. Сломать ноги дигитанту невозможно, потому что дизайн его аватара не допускает такой возможности. Плакать, вероятно, он тоже не может, но сейчас явно испытывает страшную боль, а жалобный писк — единственный способ выразить свои страдания.

Ана выключает телевизор.

— Что происходит? — спрашивает Джакс, и несколько других дигитантов повторяют его вопрос, но Ана не отвечает. Вместо этого на своем мониторе она открывает окошко с описанием только что просмотренного видео. Это не анимация. Это реальная видеозапись грифера[24], который воспользовался хакерскими рекомендациями ФСИ, чтобы отключить систему предохранителей боли в теле дигитанта.

Еще хуже то, что пищащий от боли дигитант — не какая-то новая инстанция, а чей-то домашний любимец, которого незаконно клонировали хакеры ФСИ. Дигитанта зовут Ниити, и Ана вспоминает, что он вместе с Джаксом ходит на уроки чтения.

Те, кто скопировал Ниити, могут сделать и копию Джакса. Или уже делают — прямо сейчас. В распределенной архитектуре «ООПП Земля» Джакс подвергается опасности, если грифер находится в пределах того же самого континента, где расположена игровая площадка.

Джакс продолжает расспрашивать ее о том, что происходило на экране телевизора. Ана открывает окошко с перечислением всех процессов, активированных по ее учетной записи, находит процесс, представляющий Джакса, и останавливает его. Джакс, стоящий на игровой площадке, застывает, не закончив начатое слово, и исчезает.

— Что случается с Джаксом? — спрашивает Марко.

Ана открывает другое окошко, с процессами Дерека — они обменялись правом полного доступа к своим учетным записям, — и выключает Марко и Поло. У нее нет пользовательских привилегий, чтобы сделать то же самое с остальными дигитантами, и она не знает, что делать дальше. Она видит, что все оставшиеся на площадке дигитанты растерянны и возбуждены. Они лишены реакций «сражайся-или-беги», которыми наделены животные, у них нет и реакций на феромоны или на крик боли — но у них есть аналог зеркальных нейронов[25]. Это помогает им в учебе и общении, но это означает и то, что они испытывали страдание, когда видели то, что происходило на телеэкране.

Каждый, кто привел своего дигитанта, предоставил Ане доступ, позволяющий ей погружать любого из дигитантов в состояние сна, но даже в этом состоянии их процессы продолжают оставаться активными, — а это означает, что они по-прежнему подвержены риску быть скопированными. И она решает перебросить всех дигитантов на небольшой остров подальше от крупных континентов, в надежде на то, что вероятность сканирования грифером этого пространства гораздо меньше.

— О’кей, — объявляет она, — мы идем в зоопарк.

Она открывает портал гостевого центра архипелага Пангея и проводит дигитантов через портал. Гостевой центр кажется пустым, но она не хочет рисковать. Она укладывает дигитантов спать, после чего отправляет сообщения всем владельцам, информируя их о том, где они могут забрать своих питомцев. Ана оставляет свой аватар с дремлющими дигитантами и отправляется на форумы, чтобы предупредить остальных. В течение часа появляются владельцы дигитантов, чтобы забрать своих подопечных, а Ана наблюдает за тем, как дискуссия на форумах ширится, как пятно цветущих водорослей на поверхности моря. Многие шокированы происшедшим и угрожают хакерам судебным преследованием. Другие геймеры придерживаются той позиции, что владельцам дигитантов стоит попридержать языки, потому что дигитанты не представляют денежной ценности — это заявление немедленно вызывает словесную войну с переходом на личности. Ана игнорирует большинство сообщений, пытаясь найти информацию о реакции Daesan Digital, компании, контролирующей платформу «ООПП Земля». Наконец появляются серьезные новости:

От: Энрике Бертрана

Daesan располагает апгрейдом[26] архитектуры обеспечения безопасности «ООПП Земля», по их словам, этот апгрейд предотвратит опасность последующих нарушений системы безопасности. Это должно было стать частью обновления архитектуры в будущем году, но из-за того, что произошло, они вводят апгрейд сейчас. Они не могут пока сообщить нам, когда это будет сделано. До тех пор всем лучше на время отключить своих дигитантов.

От: Марии Чжен

Есть и другой вариант. Лисма Ганауэн обустроила частный остров, где можно будет активировать только предварительно одобренный программный код. Вы не сможете воспользоваться ничем из того, что было куплено недавно, но дигитанты Нейровзрыва могут активизироваться без проблем. Свяжитесь с ней, если вы хотите попасть в гостевой список.

Ана отправляет Лисме запрос и получает автоматический ответ с обещанием информировать Ану, когда остров будет готов. У Аны нет возможности создать локальную инстанцию обстановки «ООПП Земля», но у нее есть другой вариант. В течение часа она конфигурирует свою систему, чтобы запустить абсолютно локальную инстанцию движка Нейровзрыв. Без портала «ООПП Земля» ей приходится загружать сохраненное состояние Джакса вручную, но в конце концов ей удается активизировать Джакса в робо-теле.

— …выключили телевизор? — Он умолкает, осознав, что его окружение изменилось. — Что случилось?

— Все в порядке, Джакс.

Он видит тело, в котором находится.

— Я во внешнем мире. — Он смотрит на нее. — Ты меня выключала?

— Да, прости меня. Я говорила, что никогда не буду этого делать, но мне пришлось.

Он жалобно спрашивает:

— Почему?

Ана смущена своими чувствами — тем, как крепко она обнимает тело робота.

— Я стараюсь обезопасить тебя.

Месяцем позже «ООПП Земля» получает свой апгрейд. ФСИ снимает с себя всякую ответственность за то, что делают гриферы с опубликованной Фронтом информацией, заявив, что в любой свободе содержится потенциальная опасность злоупотреблений ею, и добавив, что в настоящее время они намерены заняться другими проектами. По меньшей мере на некоторое время публичные континенты на «ООПП Земля» снова безопасны для дигитантов, но вред уже был причинен. Невозможно отследить все копии, которые запускаются частным образом, и даже если никто никогда не выпустит копии с пытками дигитантов, многие обладатели существ с геномом Нейровзрыва не желают даже думать о том, что подобное может повториться; они насовсем выключают своих дигитантов и покидают группы пользователей.

В то же самое время другие в восторге из-за доступности скопированных дигитантов, особенно таких, которых обучили чтению. Члены ассоциации исследователей И И не раз задавались вопросом: смогут ли дигитанты сформировать собственную культуру, если их оставить в инкубаторе, — но раньше у исследователей не было доступа к дигитантам, которые умели бы читать, а исследователи не хотели тратить силы и время на то, чтобы самостоятельно воспитывать таких дигитантов. Теперь же они собирают все доступные для них копии «грамотных» дигитантов — в основном дигитантов Оригами, поскольку им легче других питомцев давалось чтение, но в подобранную исследователями группу включили и несколько дигитантов Нейровзрыва. Дигитантов расселяют на частных островах с текстовыми и программными библиотеками, где они работают с той же скоростью, с какой обучались в «инкубаторах». Форумские дискуссии полны рассуждений и догадок о городах в бутылках, о микрокосмосе на столе.