Тед Чан - Жизненный цикл программных объектов

• Название: Жизненный цикл программных объектов
• Автор: Тед Чан
• Жанр: Научная Фантастика

Самая большая на сегодняшний день работа Теда Чана в определенной мере посвящена поискам путей создания AI (Artificial Intelligence) — Искусственного Интеллекта. Но, вероятно, в еще большей степени посвящена она людям, работающим с носителями AI, дигитантами — дигитальными сущностями, которые, облеченные в симпатичные аватары развиваются и обучаются на специальных «планетах»-платформах, где они могут, освоив человеческую речь, общаться как со своими создателями, так и друг с другом.

Автор, сам работающий в компьютерной индустрии, точно и нередко безжалостно рисует проблемы, существующие в ней, технические (такие, как несовместимость платформ, с чем сталкивается и обычный пользователь сегодня), и человеческие: появление новых — пусть и виртуальных — существ (дигитантов) влечет за собой проблемы и этического характера. Многие, купив забавных питомцев, начинают понимать, что хлопот с ними предостаточно (обучение, необходимость совместных игр) и… нередко усыпляют их. То есть, попросту выключают, убеждая себя, что делают это на время.

Разработчики, наделив дигитантов робо-телом, т. е. загрузив AI дигитантов в корпус робота, вводят их тем самым в наш, реальный мир, что влечет за собой целый ряд открытий и проблем, включая такую, как предложение использовать «воплощенных» дигитантов в качестве сексуальных партнеров.

Конфликты, возникающие между людьми – даже любящими людьми – возникают из-за того, что с такой ясностью выразил Антуан де Сент-Экзюпери: «Ты навсегда в ответе за всех, кого приручил».

Эта небольшая повесть Чана поднимает необычно большой круг проблем: концептуальных (подход к проблеме AI у автора и оригинален, и глубок), технологических, этических. Эта книга в такой же степени о дигитальных сущностях, как и о нас.

---

— Наверное, это зависит от того, считала бы я, основано ли его решение на опыте, или нет. У Джакса никогда не было любовных отношений, как не было и работы, а принять предложение Binary Desire означало бы и то и другое — и потенциально навсегда. Я хотела бы, чтобы у него был хоть какой-то опыт в этих делах, прежде чем он примет решение, последствия которого необратимы. Будь у него такой опыт, я вряд ли стала бы возражать.

— А, — произносит Дерек, кивнув. — Жаль, мне не пришло это в голову во время разговора с Марко.

Это означало бы трансформацию дигитантов, которая сделала бы их сексуальными существами — без намерения торговать ими; еще одна солидная статья расходов для пользовательской группы, даже после переноса Нейровзрыва.

— Но на это потребовалось бы время. Много времени.

— Конечно, но нет нужды торопиться и превращать дигитантов в сексуальные существа. Лучше подождать, пока мы будем в силах сделать это правильно.

Лучше приподнять возрастную планку совершеннолетия, чем рисковать опустить ее слишком низко.

— А тем временем наша обязанность — заботиться о них.

— Именно! Их интересы должны быть прежде всего. — Ана благодарна Дереку за то, что в главном они согласны, а он рад, что сумел поддержать ее. Но тут же на ее лице появляется расстроенное выражение. — Хотела бы я, чтобы Кайл это понял.

— Не уверен, что любой, кто не провел с дигитантами столько времени, сколько провели мы, смог бы понять.

Дерек произносит это не для того, чтобы осуждать Кайла, — он действительно так думает.

Проходит неделя. Ана на «ООПП Земля» с несколькими дигитантами Нейровзрыва ожидает прибытия гостей. Марко пересказывает Лолли содержание последней серии их любимого сериала-игры, а Джакс разучивает танец, для которого сам сочинил хореографию.

— Смотри, — говорит он.

Она смотрит, как он в быстром темпе принимает различные позы.

— Только помни, когда они появятся, тебе надо рассказать о том, что ты построил.

— Знаю, ты уже много раз мне это говорила. Когда они прибудут, я перестану танцевать. Сейчас я развлекаюсь.

— Прости, Джакс. Просто я нервничаю.

— Смотри, как я танцую, тебе станет легче.

Ана улыбается:

— Спасибо, попробую.

Она делает глубокий вдох и приказывает себе расслабиться.

Портал открывается, и через него входят два аватара. Джакс прекращает танцевать, и Ана ведет свой аватар к гостям. Надпись на мониторе идентифицирует их как Джереми Брауэра и Фрэнка Пирсона.

— Надеюсь, вы добрались без проблем, — говорит Ана.

— Абсолютно, — отвечает Пирсон, — логины, которые вы нам дали, сработали идеально.

Брауэр осматривается по сторонам:

— Старая добрая «ООПП Земля».

Его аватар сгибает ветку кустарника, потом отпускает ее и наблюдает, как она раскачивается.

— Я помню, какой был восторг, когда компания Daesan впервые выпустила все это. Тогда это был настоящий прорыв.

Брауэр и Пирсон работают в Exponential Appliances, компании, выпускающей роботов для работ по дому. Эти роботы — образчики старомодного ИИ, они не обучаются своим навыкам, эти навыки содержатся в их программном коде, и хотя некоторые из роботов полезны в доме, назвать их мыслящими и сознающими нельзя. Exponential регулярно разрабатывает новые версии, рекламируя каждую из них как очередной шаг к ИИ, о котором мечтает потребитель; как дворецкий, который абсолютно предан хозяевам и максимально внимателен, как только его включили. Для Аны эта череда апгрейдов похожа на путь к горизонту, она дает иллюзию прогресса, но никогда не достигает конечной цели. Но потребители охотно покупают этих роботов, что дает Exponential Appliances немалый позитивный баланс по части финансов, а именно это и представляет интерес для Аны.

Ана не планирует устраивать дигитантов Нейровзрыва на работу в качестве дворецких или лакеев; совершенно очевидно, что Джакс и другие вряд ли согласились бы на такого рода работу. К тому же Брауэр с Пирсоном не работают в коммерческих структурах компании: они часть исследовательской группы, ради которой и создавалась Exponential. Роботы для домашней работы — возможность для компании финансировать попытки по созданию такого ИИ, который был бы технологическим совершенством: сущность с развитыми способностями к познанию, гений, не зависящий от эмоций или ограниченности тела, интеллект, огромный и невозмутимый, но одновременно исполненный сочувствия. Они ждут, что такой софт выскочит, как Афина из головы Зевса, полностью сформировавшимся, и хотя Ана уверена, что они будут ждать этого чуда вечность, она надеется убедить Брауэра и Пирсона, что дигитанты Нейровзрыва могут стать действенной альтернативой той цели, которую ставит перед собой Exponential.

— Спасибо, что согласились встретиться со мной, — говорит Ана.

— Мы с нетерпением ждали этой встречи, — говорит Брауэр. — Дигитанты, суммарное время активности которых больше, чем продолжительность жизни большинства операционных систем? Такое не часто увидишь.

— Да, не часто. — Ана осознает, что они откликнулись на приглашение скорее из чувства ностальгии, чем с целью рассмотреть бизнес-варианты. Что ж, пусть будет так, главное, что они здесь.

Ана представляет их дигитантам, которые затем устраивают небольшую демонстрацию проектов, над которыми они работали. Джакс показывает хитрую виртуальную штуковину, которую он изобрел, нечто вроде музыкального синтезатора, на котором он играет, танцуя. Марко объясняет принцип игры-головоломки, которую он разработал, — игры, в которую можно играть, кооперируясь или соревнуясь. Брауэра особенно заинтересовала Лолли, показавшая им написанную ею программу. В отличие от Джакса и Марко, которые создали свои проекты, используя наборы вспомогательных программ разработчика, Лолли сама пишет программный код. Однако Брауэр тут же разочаровывается, когда ему становится понятно, что Лолли пишет на уровне любого программи-ста-новичка, он явно надеялся, что как дигитант — программное существо — она будет обладать особым талантом к программированию.

После недолгой беседы с дигитантами Ана и ее гости из Exponential выходят из системы «ООПП Земля» и переключаются на видеоконференцию.

— Поразительно, — говорит Брауэр. — У меня когда-то был дигитант, но он так и не продвинулся дальше младенческого лепета.

— Это был дигитант Нейровзрыва?

— Конечно. Я купил его сразу же, как они появились в продаже. Это был инстанцированный маскот Джакса, как и ваш. Я назвал его Фитцем, в активном состоянии он пробыл около года.

У этого человека когда-то был бэби-Джакс, думает Ана. Валяющаяся где-то на складе заброшенных дигитантов младенческая версия Джакса знает этого человека как своего хозяина. Она спрашивает:

— Он вам надоел?

— Причина была не в том, что надоел, а в том, что стала очевидной его ограниченность. Я понял, что геном Нейровзрыва был неверным подходом. Фитц, безусловно, был сообразительным малым, но для того, чтобы он смог выполнять какую-либо полезную работу, понадобилась бы вечность. Не могу не отдать вам должное: вы поработали с Джаксом очень хорошо. И то, чего вы достигли, впечатляет.

Он произносит это так, будто она сложила гигантскую скульптуру из зубочисток.

— И вы по-прежнему считаете, что Нейровзрыв был неверным подходом? Вы же сами видели, на что способен Джакс. В Exponential есть что-нибудь хотя бы отдаленно подобное?

Это прозвучало резче, чем ей хотелось.

Брауэр отреагировал спокойно:

— Мы не пытаемся выйти на ИИ человеческого уровня. Нам нужен сверхчеловеческий ИИ.

— А вы не думаете, что ИИ человеческого уровня — важный шаг в этом направлении?

— Нет, если речь идет об уровне ИИ, который продемонстрировали ваши дигитанты, — говорит Брауэр. — Я не уверен в том, что Джакс когда-нибудь станет способным к работе, не говоря уж о том, чтобы он сделался гением в программировании. Как бы вам ни хотелось, но он достиг своего максимума.

— Я не думаю, что это так…

— Вы не можете знать это наверняка.

— Я знаю, что если геном-движок Нейровзрыва смог создать такого дигитанта, как Джакс, он сможет создать и такого гения, который нужен вам. Алан Тьюринг[45] из среды дигитантов Нейровзрыва еще ждет своего рождения.

— О’кей, предположим, что вы правы, — снисходительно произносит Брауэр. — Но сколько лет понадобится, чтобы это произошло? У вас ушла масса времени на то, чтобы воспитать первое поколение, и за это время платформа, на которой они работают, безнадежно устарела. Сколько поколений пройдет, прежде чем вам удастся воспитать Тьюринга?

— Мы не всегда будем ограничены необходимостью их активизации только в режиме реального времени. В какой-то момент у нас появится столько дигитантов, что их хватит для формирования самодостаточной популяции, и тогда они уже не будут зависеть от общения и взаимодействия с человеком. Мы можем делать прогоны этого сообщества на «инкубаторских» скоростях без риска их одичания и посмотрим, что они произведут в результате.