Тед Чан - Жизненный цикл программных объектов

• Название: Жизненный цикл программных объектов
• Автор: Тед Чан
• Жанр: Научная Фантастика

Самая большая на сегодняшний день работа Теда Чана в определенной мере посвящена поискам путей создания AI (Artificial Intelligence) — Искусственного Интеллекта. Но, вероятно, в еще большей степени посвящена она людям, работающим с носителями AI, дигитантами — дигитальными сущностями, которые, облеченные в симпатичные аватары развиваются и обучаются на специальных «планетах»-платформах, где они могут, освоив человеческую речь, общаться как со своими создателями, так и друг с другом.

Автор, сам работающий в компьютерной индустрии, точно и нередко безжалостно рисует проблемы, существующие в ней, технические (такие, как несовместимость платформ, с чем сталкивается и обычный пользователь сегодня), и человеческие: появление новых — пусть и виртуальных — существ (дигитантов) влечет за собой проблемы и этического характера. Многие, купив забавных питомцев, начинают понимать, что хлопот с ними предостаточно (обучение, необходимость совместных игр) и… нередко усыпляют их. То есть, попросту выключают, убеждая себя, что делают это на время.

Разработчики, наделив дигитантов робо-телом, т. е. загрузив AI дигитантов в корпус робота, вводят их тем самым в наш, реальный мир, что влечет за собой целый ряд открытий и проблем, включая такую, как предложение использовать «воплощенных» дигитантов в качестве сексуальных партнеров.

Конфликты, возникающие между людьми – даже любящими людьми – возникают из-за того, что с такой ясностью выразил Антуан де Сент-Экзюпери: «Ты навсегда в ответе за всех, кого приручил».

Эта небольшая повесть Чана поднимает необычно большой круг проблем: концептуальных (подход к проблеме AI у автора и оригинален, и глубок), технологических, этических. Эта книга в такой же степени о дигитальных сущностях, как и о нас.

---

Ана далеко не уверена, что реализация подобного сценария даст на выходе Тьюринга, но она репетировала эту речь столько раз, что сейчас говорит с полным ощущением того, что она в это верит.

Брауэр, однако, не убежден.

— К вопросу о рискованных инвестициях. Вы показываете нам группку подростков и просите заплатить за их образование в надежде на то, что когда они повзрослеют, то создадут народ, способный рождать гениев. Простите, но я думаю, мы могли бы потратить наши деньги более разумным образом.

— Но подумайте о том, что вы получаете! Я и другие владельцы посвятили годы воспитанию своих дигитантов. Перенос Нейровзрыва на новую платформу — это совсем недорого в сравнении с тем, сколько будет стоить оплата специалистов, чтобы сделать то же самое с другим геном-движком. А потенциальная выгода именно в том, что нужно вашей компании: гении программирования, работающие на высоких скоростях и раскручивающие себя до уровня сверхчеловеческого интеллекта. Если эти дигитанты уже сейчас способны изобретать и разрабатывать игры, просто представьте себе, на что будут способны последующие поколения. И вы будете зарабатывать на каждом из дигитантов.

Брауэр хочет ответить, но Пирсон его опережает:

— Вы именно поэтому хотите осуществить перенос Нейровзрыва? Чтобы посмотреть, что в один прекрасный день изобретут дигитанты с суперинтеллектом?

Ана видит, что Пирсон испытующе смотрит на нее, и решает, что врать не стоит.

— Нет, — говорит она. — Я хочу, чтобы у Джакса появился шанс вести более полную жизнь.

Пирсон кивает:

— Вы хотите со временем сделать Джакса корпорацией? Чтобы он стал личностью, пусть и юридической?

— Да.

— Держу пари, что и сам Джакс желает того же? Быть инкорпорированным?

— В общем и целом — да.

Пирсон снова кивает. Его подозрения подтвердились.

— Для нас это и есть главное препятствие к заключению сделки. Очень мило, что с ними интересно разговаривать, но то внимание, которое вы уделяли и продолжаете уделять своим дигитантам, позволяет им думать о себе как о личностях.

— Но почему же это препятствует нашей сделке? — спрашивает она, уже зная ответ.

— Нам не нужны работники с суперинтеллектом, нам нужны интеллектуально сверхразвитые изделия. Вы предлагаете нам первый вариант, и я не виню вас: невозможно, потратив столько лет на обучение дигитанта, как вы, думать о нем как о продукте, об изделии. Но наш бизнес не базируется на чувствах подобного рода.

Ана до сих пор делала вид, что это не так, но сейчас Пирсон сформулировал проблему со всей откровенностью: проблема в фундаментальной несовместимости целей Exponential и ее собственных. Им нужно нечто с реакциями личности, но не требующее отношения к себе как к личности, а этого она не может им дать.

И никто не может, потому что это невозможно. Годы, которые она провела, воспитывая Джакса, сделали его не просто интересным собеседником, он не просто обзавелся хобби и приобрел чувство юмора. Эти годы дали ему все те свойства, в которых заинтересована Exponential: живость и легкость перемещения в реальном мире, творческий подход к урегулированию новых проблем, способность суждения, которой можно доверить принятие важных решений. Каждое качество, которое делает личность более ценной, чем обычная база данных, есть результат опыта.

Она хочет сказать им, что Blue Gamma была права, сама того не подозревая: опыт не просто лучший учитель, опыт — единственный учитель. Если она чему-то научилась, воспитывая Джакса, так это тому, что нет коротких путей к цели; если ты хочешь воспитать здравый смысл, который приходит после двадцати лет жизни в мире, тебе нужно потратить на эту задачу двадцать лет. Нельзя собрать эквивалентную коллекцию эвристических методов за более короткое время; опыт несжимаем алгоритмически.

И даже если бы можно было сделать мгновенный снимок, фиксирующий весь этот опыт, а затем дуплицировать его ad infinitum[46], даже если бы было возможно продавать копии по дешевой цене или раздавать их даром, каждый из получившихся дигитантов все равно должен прожить целую жизнь. Каждому из них необходимо видеть мир новыми глазами, пережить сбывшиеся надежды и надежды несбыточные, научиться тому, что ты чувствуешь, когда лжешь, и что чувствуешь, когда лгут тебе.

Что означает: каждый из них должен заслуживать минимального уважения. Уважения, на которое Exponential расщедриться не может.

Ана делает последнюю попытку:

— Эти дигитанты все-таки могут принести вам прибыль в качестве работников. Вы могли бы…

Пирсон отрицательно качает головой:

— Я понимаю вас, как понимаю и то, чего вы пытаетесь добиться, и я искреннее желаю вам удачи, но это не самый лучший вариант для Exponential. Если бы эти дигитанты выпускались как изделия, ради потенциальной прибыли можно было бы рискнуть. Но работники — это совершенно иная ситуация. Такую серьезную инвестицию ради мизерной прибыли невозможно оправдать.

Конечно, невозможно, думает Ана. Да и для кого это было бы возможно? Только для фанатика, для человека, чьим мотивом является любовь. Для кого-то такого, как она.

Ана отправляет Дереку месседж о неудачной встрече с Exponential, когда внезапно оживает робо-тело.

— Как прошла встреча? — спрашивает Джакс, но он достаточно хорошо умеет читать выражение ее лица, и потому не ждет ответа. — Это моя вина? Им не понравилось то, что я им показывал?

— Нет, Джакс, ты все здорово проделал. Им просто не нравятся дигитанты; моя ошибка была в том, что я надеялась их переубедить.

— Стоило попробовать, — говорит Джакс.

— Думаю, стоило.

— Ты в порядке?

— У меня все будет хорошо, — уверяет Ана. Джакс обнимает ее и потом идет в робо-теле на зарядную платформу и возвращается на «ООПП Земля».

Сидя за рабочим столом и глядя на пустой экран, Ана размышляет над тем, какие еще варианты остались у пользовательской группы. По ее мнению, есть лишь один вариант: работать на Polytope и пытаться убедить их, что движок Нейровзрыва стоит того, чтобы потратиться на его перенос. Все, что для этого нужно сделать, — надеть пластырь InstantRapport и включиться в их эксперимент по уходу за дигитантами, поставленному на поток.

Что ни говори о Polytope, но компания понимает значимость контакта в режиме реального времени, чего не осознает Exponential. Дигитанты Софонс были бы рады, если бы их оставили в «инкубаторском» покое, но это не самый эффективный способ воспитания продуктивных индивидов. Кто-то должен проводить сними время, и в Polytope с этим согласны.

Ее возражения сводятся к тому, как Polytope собирается организовать людей, которые будут проводить время с дигитантами. Стратегия Blue Gamma заключалась в том, что компания делала дигитантов привлекательными, в то время как Polytope начинает с неприятных дигитантов и использует фармацевтические средства, чтобы заставить людей полюбить их. Ана начинает понимать, что подход Blue Gamma был абсолютно верным — не просто более этичным, но и более эффективным.

Возможно, даже слишком эффективным, если иметь в виду сложившуюся ситуацию: она на пороге самых крупных расходов за всю свою жизнь, и все это ради ее дигитанта. Это не то, на что рассчитывали в Blue Gamma годы назад, — и, возможно, им стоило иметь это в виду. Идея любви без всяких дополнительных условий такая же фантазия, как те, которые продает Binary Desire. Если любишь кого-то, то неизбежно жертвуешь чем-то для его счастья.

Только по этой причине Ана всерьез думает о работе в Polytope. При любых других обстоятельствах ее оскорбило бы предложение работы, где требуется применять InstantRapport, опыта работы с дигитантами у нее больше, чем у кого бы то ни было, однако своим предложением Polytope дает понять, что она не может быть успешным и эффективным тренером без помощи фармацевтики. Тренировка дигитантов — как дрессировка животных — это работа, а профессионал может делать свою работу и не будучи влюбленным в подопечного.

В то же самое время она понимает, как много значит привязанность в процессе тренинга, как помогает она набраться терпения, когда терпение нужно больше всего. Сама мысль о том, что такая привязанность может быть создана искусственно, крайне неприятна, но она не может отрицать реальных успехов современной фармакологии: если ее мозг будет подпитываться окситоцином всякий раз при работе с дигитантами Софонс, это повлияет на ее чувства к ним, хочет она того или нет.

Единственный вопрос в том, сможет ли она с этим смириться. Ана убеждена, что пластырь InstantRapport не отвлечет ее от заботы о Джаксе; никакой дигитант Софонс не сможет изменить ее чувства к Джаксу. И если работа на Polytope — шанс для переноса Нейровзрыва на новую платформу, она готова на это пойти.