Вернор Виндж - Сингулярность

• Название: Сингулярность
• Автор: Вернор Виндж
• Жанр: Прочая научная литература
• Год: 2019
• ISBN: 978-5-17-114349-7

Создание интеллекта, превосходящего человеческий, произойдет в ближайшие тридцать лет. …Это та самая точка, где наши прежние модели перестают работать, и в свои права вступает новая реальность. Как приближение Сингулярности повлияет на человеческое мировоззрение? И что случится в течение пары месяцев (или пары дней) после этого? В моем распоряжении есть только аналогия, на которую я могу указать: возникновение человечества. Мы окажемся в постчеловеческой эпохе… – это цитата из программной статьи Вернора Винджа «Грядущая технологическая сингулярность», одной из самых часто упоминаемых работ об искусственном интеллекте за последние 25 лет.

---

Без наступления сингулярности существуют три возможности (три полноправных сценария):

Сценарий 1: Возвращение к ВГУ

Я сказал, что постараюсь не затрагивать экзистенциальных катастроф, но хочу подчеркнуть, что они все еще возможны. Как избежать их – эта мысль должна стоять на первом месте при размышлении о долгосрочных перспективах.

• Этот «один день безумия (ВГУ)», идущий назад по верху диаграммы, должен быть знаком тем, кто пережил эру следующих документов:

Рис. 2

• «Судьба земли» Джонатана Шелла.

• Объявление ТТАПС о ядерной зиме.

• (Подобно многим из вас, я скептически отношусь к этим двум источникам. С другой стороны, по поводу эффекта обмена массивными ядерными ударами существует множество вопросов. Изощренная логика планирования ВГУ постоянно поднимает порог «приемлемого ущерба» и привлекает специалистов-интеллектуалов и невероятные ресурсы к доказательству того, что могут быть допустимы даже еще бо́льшие уровни разрушения. Я не в состоянии придумать никакой другой угрозы, где гений человечества так явственно нацелен на наше собственное уничтожение.)

Сценарий 2: Золотой век

Рис. 3

(Сценарий для уравновешивания пессимизма «Возвращения к ВГУ».)

• В нашей эпохе есть тенденции, говорящие в пользу этого оптимистического сценария:

• Пластичность человеческой психики (даже за время существования одного поколения). Когда у людей есть надежда, информация и общение, просто диву даешься, как быстро они начинают вести себя с мудростью, далеко превосходящей мудрость элит.

• Эти тенденции усиливаются благодаря Интернету, даже если мы не будем двигаться к сингулярности. Моя последняя книга, «Конец радуг», может служить иллюстрацией этого наблюдения (в зависимости от того, как интерпретировать признаки появления игроков, начинающих выходить за пределы человеческой природы:-)).

• Этот сценарий подобен тому, что приводит Гюнтер Стент в работе «Приближение Золотого века, взгляд на окончание прогресса» (The Coming of the Golden Age, a View of the End of Progress), – только в моем варианте у нас будут тысячи лет, чтобы разобраться с последствиями закона Эдельсона.

• Уменьшение численности населения (уход траектории влево) – вполне мирная и положительная тенденция, в конечном счете приводящая к универсальному высокому стандарту жизни.

• В самой долгосрочной перспективе имеется некоторый рост и энерговооруженности, и населения.

• Наша цивилизация очевидным образом приходит к долговременному убеждению, что многочисленное и удовлетворенное своей жизнью население – лучше, чем малочисленное и неудовлетворенное. Существует и обратная точка зрения. Вероятно, со временем будут испробованы обе возможности.

• Так что же произойдет на дальнем конце этого «долгого сейчас» (20 или 50 тысяч лет спустя)? Даже без сингулярности кажется разумным предположить, что в какой-то момент наш вид каким-то образом усовершенствуется.

• Политическое предположение (применимое к большинству из этих сценариев): [молодые] старики полезны для будущего человечества! Поэтому исследования в области продления жизни могут оказаться важнейшим фактором долговременной безопасности рода человеческого.

• Это предположение впрямую отрицает утверждение, будто многочисленность стариков омертвляет общество. Я говорю не о тех беспомощных стариках, которых мы с незапамятных времен знаем (и которыми постепенно становимся). Мы понятия не имеем, на что похожи молодые глубокие старики, но их существование может нам дать нечто вроде тех преимуществ, какое давало первобытным людям наличие очень старых членов племени (от 35 до 65 лет).

• Перспектива «долгого сейчас» представляется очень естественной тому, кто ожидает, что не только его пра-пра-пра… правнуки будут жить через пятьсот лет, но, возможно, и он сам тоже.

• И когда мы углубимся далеко в будущее, то у нас будут не только дальние перспективы, но и люди, которые жили в отдаленном прошлом.

Сценарий 3: Колесо времени

Рис. 4

Боюсь, что этот сценарий куда вероятнее «Золотого века». «Колесо времени» основано на том факте, что Земля и Природа не статичны, а наша технология может вызвать ужаснейшие разрушения. Раньше или позже, даже при самом аккуратном планировании, произойдет мегакатастрофа, и цивилизация падет (или значительно пошатнется).

Таким образом, на этой диаграмме мы видим циклы катастроф и восстановлений.

• Какова будет амплитуда таких циклов (масштаб потерь населения и гибели технологий)?

• Какова будет длительность таких циклов?

Есть целый ряд предположительных ответов на эти вопросы (в основном, касающихся первого восстановления):

• «Вызов человеческому будущему» (The Challenge of Man’s Future) Гаррисона Брауна.

• «О термоядерной войне» (On Thermonuclear War) Германа Кана.

• «Глубина в небе» (A Deepness in the Sky) Вернора Винджа, где наиболее постоянные важные социальные роли играют археологи и копатели программных свалок.

• (На самом деле я хотел бы видеть здесь больше ссылок, и гораздо лучших, чем эти.)

Но мы почти ничего не знаем о таких циклах – кроме того, что в худшем случае на Земле может погибнуть все живое.

Как поступать с самыми страшными неопределенностями?

В этом выступлении нередко повторялась ключевая фраза «Кто знает?». Чаще всего эта мантра применяется к самым серьезным проблемам, встающим перед нами:

• Насколько опасно на самом деле ВГУ? (В конце концов, «оно дало нам пережить XX век».)

• Насколько экзистенциальна угроза изменений, происходящих в окружающей среде?

• Как быстро может оправиться человечество от крупных катастроф? Возможно ли вообще полное восстановление? От каких именно катастроф труднее всего оправиться?

• Насколько близка наша технология к тому, чтобы ВГУ ушло из рук национальных государств, и возможность убить нас всех попала в руки раздражительных индивидов?

• Каков будет долговременный эффект от присутствия в обществе больших количеств молодых стариков?

• Какое влияние оказывает (подставить название любой черты социального устройства или любой опасности) на перспективу долговременного выживания человечества?

Мы как могли разобрались с планированием сценариев. Но есть еще и другое средство, и оно просто чудесно, если оно у вас есть: широкий опыт.

• Человеку не нужно пробовать все наркотики, чтобы знать, какие из них смертельны.

• В природе человеке не заложен способ оценки риска различных диет и упражнений. Даже родители его могут ничего полезного ему не сообщить, но некоторые указания может дать фрамингемское исследование (см. сайт http://en.wikipedia.org/wiki/Framingham_Heart_Study).

К сожалению, диапазон нашего опыта опасно узок, поскольку мы, по сути, можем наблюдать за одним-единственным экспериментом. В «долгом сейчас» – получится ли у нас лучше? Сценарий «Золотой век» позволил бы провести щадящие эксперименты с размером популяции и долгожительством. (Фактически кое-что из этого можно увидеть там, где моя диаграмма Золотого века дает изгиб.)

Однако мы никак не можем гарантировать, что находимся в сценарии «Золотой век», или быть уверенными, что наши эксперименты не разрушат цивилизацию. (Лично мне куда более вероятным кажется сценарий «Колесо времени».)

Конечно, есть способ, посредством которого можно приобрести опыт и в то же время улучшить шансы человечества на выживание:

Самодостаточные внеземные поселения – лучшая надежда человечества на долговременное выживание

Это утверждение снова вернулось в центр внимания размышлений о будущем, и обратили это внимание люди весьма заметные – в частности, Хокинг, Дайсон и Рис.

Некоторые (или даже все) эти люди говорят об этом уже не первый десяток лет. И, конечно, такие поселения – в центре внимания многих авторов и произведений НФ XX века. Мне лично греет душу то, что в нашем веке эта идея снова выходит на авансцену.

(Важное замечание для тех, кто считает, что это выступление не имеет отношения к общей теме: я не предлагаю создавать космические поселения как альтернативу сингулярности или способы ее избежать. Космические поселения, вероятно, будут играть важную роль в сценариях сингулярности, но контекст, в котором они будут существовать, мы себе представить не можем.)

Некоторые возражения и ответы:

• «Гонка за безопасностью в космосе только отвлечет от жизненно важного приоритета: разгрести ту свалку, что мы устроили на Земле». Я подозреваю, что эта точка зрения – за пределами логических дискуссий. (Примечание, добавленное 11 февраля 2008 года: но всякий, кто ставит выживание людей в зависимость от благорасположения Матери-Земли, наверняка игнорирует все открытия биологической науки XX века.)