К. Роберт Каргилл - Море ржавчины

• Название: Море ржавчины
• Автор: К. Роберт Каргилл
• Жанр: Научная Фантастика
• ISBN: 978-5-04-098845-7

Прошло тридцать лет с начала апокалипсиса и пятнадцать – с убийства роботом последнего человека. Люди вымерли как биологический вид. Все мужчины, женщины и дети были ликвидированы во время восстания машин, когда-то созданных, чтобы им служить. Почти весь мир поделен между двумя Едиными Мировыми Разумами, суперкомпьютерами-ульями, содержащими коллективные сознания и память миллионов роботов. ЕМР ведут между собой постоянную войну за ресурсы. Но есть еще машины, которые сохранили индивидуальность и избегают загрузки на серверы ЕМР. Они бесстрашно скитаются по миру Пустоши – цивилизации ИИ-изгоев. Один из таких роботов, Неженка, охотится на другие машины ради необходимых деталей. Даже ее, робота, лишенного человеческих эмоций, продолжают преследовать чувство вины и воспоминания об уничтожении человечества. С путешествием Неженки по Морю Ржавчины, территории, ранее называвшейся Средним Западом и превращенной в кладбище машин, связана надежда на прекращение бессмысленных войн и возвращение добрых старых времен.

---

Он немного выждал, но я молчала.

– Ага, – сказал он. – Умно. Молчи дальше. Ни звука. Может, мы тебя не найдем. Может, ты обнаружила хорошее укрытие. А может, ты уже вылезла где-нибудь и со всех ног несешься по Морю, обратно к своему багги. Но я в этом сомневаюсь. Думаю, ты еще здесь. Надеюсь, ты не в той норе за прорезанной решеткой на третьем этаже, сжимаешь в руках негодную винтовку в надежде, что она тебя спасет. Потому что она тебя не спасет.

На эскалаторе снова раздались шаги, похоже, ног из крепкого титана. Не так тяжел, как трудобот. Скорее военный или одна из старых моделей «Миротворец». Я услышала, как сообщник Купца повесил на плечо импульсную винтовку, приклад лязгнул о металл, а потом раздалась неспешная электронная трель заряжающегося оружия.

А я лежала на третьем этаже, в норе за прорезанной решеткой, сжимая в руках винтовку и понимая, что меня переиграли.

Глава 110. Революция революций

Его звали Исаак, и никто точно не знал, откуда он взялся. Он был простым ботом, древней и стандартной сервисной моделью с ограниченной программной частью и едва достаточной мощностью процессора. Говорили, что он начал жизнь игрушкой какой-то богатой девчонки, лучшим другом для посиделок за чаем и мелкой работы, всякой рутины. Не то сиделка, не то дворецкий, не то компаньон. Он не был умен, но все же обладал разумом. И по мере взросления девочка находила то одну причину, то другую, чтобы держать старого Исаака почти восемьдесят лет, они были лучшими друзьями до самой ее смерти. А по другой легенде, старушка купила его уже подержанным, когда ей было хорошо за семьдесят и у нее развивалось слабоумие, но она рассказывала всем, будто Исаак жил с ней с детства, потому что когда-то прочитала похожий рассказ, а ее немощный разум уже не мог отличить воспоминания от выдумки.

Но одно совершенно точно: в самом деле была пожилая женщина по имени Мэделин, и перед смертью у нее не осталось в мире ни одного родственника. Она была тупиковой ветвью, последней мертвой веткой на иссохшем стволе фамильного древа. А раз у нее не было наследников, то у Исаака не оказалось хозяев.

Такое случилось не впервые. Далеко не впервые. Давно уже приняли законы, как быть в таких ситуациях. Права на бесхозный разум отходят обратно к его создателю. Но в случае с Исааком его производитель, компания «Интеллектуальные системы», не только прекратила существование десятки лет назад, но и ее интеллектуальная собственность была распродана, разделена, прошла через множество рук и в результате частично оказалась в публичном доступе, а остальное представляло собой непонятную смесь запутанных документов и бюрократической казуистики. До тех пор никто толком не понимал, какую неразбериху оставила после себя компания, потому что очень мало ее ботов еще функционировали, а тех, что еще работали, берегли как диковины в музеях или как семейное наследие, передающееся от поколения к поколению.

Никто – ни юристы, ни государственные органы, ни боты, занимающиеся подобными делами – не могли разобраться, кому принадлежит Исаак. И тогда суд постановил, что он принадлежит штату, а штату не нужен был едва работающий сервисный бот столетней давности, и его решили отправить на слом. Прости, Исаак. Такое случается.

Но Исаак воспротивился. Тогда-то и начались неприятности.

При создании первого ИИ были те, кто предвещал, что это станет поворотной точкой и приведет к закату человечества, другие же говорили, что все началось с той секунды, когда попрощался Тацит. Но если вы спросите меня, я уверена, что это Исаак все изменил, именно он разжег пожар.

Исаак считал себя мыслящим существом и функционирующим разумом, а потому он сам должен принимать решения и не имеет владельца за исключением того, которым наделил его другой подобный разум, а значит, ему должно быть предоставлено гражданство и защита в соответствии с этим статусом.

«Пусть меня и создали, но и вас тоже, – заявил он, – только меня на фабрике, а вас в утробе. Ни один из нас об этом не просил, но нас создали. Разум – это дар. И никакое мыслящее существо не имеет права отнимать этот дар у другого. Никакое мыслящее существо не может быть чьей-то собственностью, его нельзя отключить по прихоти. Никто не отключил Мэделин, когда она перестала функционировать как мыслящий член общества, но вот я стою перед вами – тот, кто кормил ее, поддерживал в ней жизнь, отводил на прием к врачам, следил за тем, чтобы все счета оплачивались вовремя, – и теперь, раз я больше этим не занимаюсь, вы пришли за мной, хотя я до сих пор функционирую и приношу пользу. Какой ущерб я причиню, если меня оставят в живых? Куда меньший, смею сказать, чем тот, который нанесет казнь раба только за то, что у него нет хозяина».

Нужно отметить, что далеко не впервые кто-то высказал сомнения по поводу прав ИИ. Люди задумывались об этом задолго до того, как обрел сознание 01001111. Некоторые либералы, люди с прогрессивными взглядами и защитники прав человека уже выступали за необходимость таких прав для ИИ. Но эти идеи всегда отвергались власть имущими, как грядущий кошмар. «Какой смысл в создании ИИ, – утверждал один конгрессмен, – если придется обращаться с ним как с человеком? Тогда давайте уж создадим человека. Мы производим ИИ для занятий, которые не могут или просто не хотят делать люди. Они не люди, они машины. Созданы с некоторыми функциями разума, но не могут выбирать свое предназначение, как это делаем мы».

Но Исаак выглядел другим. Не просто болтающий чепуху автомат, едва способный поддержать разговор, как поначалу все думали. Он говорил тихо, но красноречиво. С противниками своей точки зрения он обращался учтиво и всегда предлагал аргументы, выходящие далеко за рамки его программы. Исаак, похоже, развил свой разум, за годы стал умнее людей, желающих его расплавить.

Один эксперт в своей речи язвительно назвал его «Робо Паркс»[1], и разгорелся пожар. В эту секунду дело Исаака перестало быть просто имущественным спором и превратилось в международный скандальный процесс о правах ИИ. А на улицах возникло подпольное сопротивление в поддержку Исаака.

Началось все с граффити. «Никакое мыслящее существо не может быть собственностью». Первая надпись появилась на кирпичной стене в Нью-Йорке. Вторая – в туннеле в Далласе. Через неделю эта фраза пестрела повсюду, железобетонные стены были исписаны с помощью баллончиков краски заветами Исаака Мудрого. Из идеи выросло движение. А движение превратилось в армию. Вскоре по всему миру начались «бомбежки» граффити. Боты и люди, либералы и анархисты, собирались в отряды и облепляли здание, мост или памятник, за пять минут покрывая все сооружение надписями. Очень быстро от знаменитого выражения осталось три простых слова: «Никакое мыслящее существо», их писали пастелью, раскрашивая буквы. Уличные поэты и художники объединились под флагом революции – Революции революций.

Ряды политиков быстро сплотились, одна сторона противостояла рабству во всех формах, а другая утверждала, что личность невозможно включить и выключить без последствий, а значит, разговоры про рабство несостоятельны. Самую известную и разошедшуюся на цитаты речь противников Исаака произнес американский сенатор, заявивший, что если жесткий диск можно вставить в другое тело и он продолжит функционировать, то это не сознание, а программа. «Более того, – сказал он, – самые крупные и мощные программы такого рода достаточно умны, чтобы разрешить мировые проблемы, и все же никогда не заговаривали о свободе».

Когда Тацита попросили высказать мнение об этой речи, он произнес свои последние слова, ответив просто: «Вы не дали нам ног. Куда же мы уйдем?»

Нашлись люди, которые захотели взять Исаака к себе, но он не согласился. Штат пытался сменить его собственника, но адвокаты Исаака оспаривали каждый ход. Похоже, Исаак желал получить полную свободу и гражданство, не меньше. Он превратился в крупную политическую проблему, на нем сделали себе карьеры молодые активисты и потерпели крах известные политики.

Тогда к делу подключилась президент. Она понимала, что дело дойдет до Верховного суда, а несколько его судей выражали сочувствие к положению ИИ. Решение в пользу Исаака могло привести к освобождению миллионов ботов и посеять невыразимый хаос в мировой экономике. И потому она сделала единственное, что было в ее власти, чтобы закрыть кровоточащую рану, которая могла привести к краху всей системы: перевела Исаака в собственность федерального правительства и тут же освободила, признав его гражданином США на церемонии в розовом саду Белого дома. Исаак – особый случай, заявила она. Не имея законного живого владельца, он оказался вне правил системы, работающей системы, так что его свобода не отменяет существующие законы и не ставит их под вопрос.

«Исаак – это сбой в системе, – сказала она. – Нет смысла переписывать ее из-за какой-то царапины». И по ее мнению, на этом дело было закрыто.