Ник Бостром - FAQ по трансгуманизму

• Название: FAQ по трансгуманизму
• Автор: Ник Бостром
• Жанр: Философия

---

Существуют ли какие-нибудь этические стандарты, по которым трансгуманисты оценивают "улучшение положения человечества"?

Трансгуманизм совместим со множеством этических систем, и трансгуманисты придерживаются различных взглядов. Тем не менее, со следующими идеями согласно большинство трансгуманистов:

Трансгуманисты считают, что можно говорить об улучшении положения человечества, если улучшилось положение отдельных людей. Обычно только сам человек может судить о том, что хорошо для него или для нее. Поэтому трансгуманисты являются сторонниками личной свободы, в особенности, морального права для тех, кто этого хочет, использовать технологию для расширения своих умственных и физических возможностей и увеличения контроля над собственной жизнью.

С этой точки зрения, улучшением в положении человечества будет изменение, которое увеличивает возможности отдельных людей осознанно изменять себя и свою жизнь в соответствии со своими информированными желаниями. Обратите внимание на слово "осознанно". Важно, чтобы люди понимали, между какими вариантами они выбирают. Образование, свобода информации, информационные технологии, фьючерсы на идеи и, возможно, усиление интеллекта, способны помочь людям делать более информированный выбор. (Фьючерсы на идеи — это рынок, на котором люди будут делать ставки на научные гипотезы или предсказания о будущем, таким образом, формируя согласованное общее мнение. Hanson (1990).)

Ссылки: Hanson, R. 1990. "Could Gambling Save Science?". Proc. Eighth Intl. Conf. on Risk and Gambling, London. http://hanson.berkeley.edu/gamble.html

Каким будет общество, в котором будут жить транслюди?

Пока у нас недостаточно информации для того, чтобы дать точный ответ на этот вопрос. Характер общества, в котором будут жить постлюди, зависит от особенностей постлюдей, которые произойдут от сегодняшних людей. Трансгуманисты сейчас видят несколько возможных направлений развития постлюдей [См. "Что такое постчеловек?"]. Некоторые из этих направлений могут привести к единому постчеловеку, но только время покажет, какие из этих направлений, если такое вообще возможно, приведут к целому обществу отдельных постлюдей.

Трансгуманисты могут делать предположения о том, как постчеловек может взаимодействовать с людьми, если постчеловек вообще захочет взаимодействовать с ними, но сложно представить себе, как постлюди будут взаимодействовать между собой и как будет функционировать постчеловеческое общество. Любое его описание на данный момент может быть основано только на текущем опыте и желаниях людей или транслюдей, заботы которых могут не иметь никакого значения для постлюдей. Постлюди наверняка придумают совершенно новые формы общественной жизни. По мере того, как постчеловеческое общество зарождается и развивается, некоторые из нас надеются наблюдать за взаимодействием постлюдей с людьми, транслюдьми и другими постлюдьми, что позволит составить представление о том, каким может стать будущее постчеловеческое общество.

Что случится, если эти новые технологии будут использованы в войне? Не могут ли они привести к нашему вымиранию?

Некоторые технологии, которые будут разработаны в этом веке будут очень и очень мощными. Будучи использованы в дурных целях, они смогут причинить большой ущерб людям и окружающей среде. Некоторые даже могут, в самом плохом случае, привести к исчезновению разумной жизни. Это самое страшное, что может произойти, и этого мы должны избежать любой ценой.

Вот некоторые гибельные для человечества сценарии, которые обсуждались трансгуманистами:

Серая топь (gray goo). — Самовопроизводящиеся наномашины [См. "Что такое нанотехнология?"] случайно выходят из под контроля и пожирают всю биосферу, превращая ее в "серую топь". Поскольку молекулярная нанотехнология будет использовать новые химические структуры, нет оснований полагать, что природные механизмы, которые поддерживают равновесие, сдерживая размножение органических самовоспроизводящихся существ, станут препятствием для нано-репликаторов.

В принципе, сравнительно легко встроить дублирующие предохранители, которые сделают такое развитие событий невозможным. Например, можно сделать самовоспроизводящиеся машины (репликаторы) зависимыми от какого-то "витамина" — редкого химического вещества, необходимого им для функционирования. Или можно сделать адаптивные мутации сколь угодно маловероятными с помощью правильного дизайна. Эксперименты с самовоспроизводящимися машинами могут быть ограничены границами "запечатанных лабораторий", небольших камер, которые автоматически взрываются, уничтожая все внутри, если что-то попытается проникнуть через их стены (неважно, изнутри или снаружи). Таким образом, если разработка нанотехнологий будет производиться ответственными людьми и со строгими предосторожностями, появления серой топи можно избежать.

Черная топь (black goo). — Общепринято считать, что "черная топь", под которой понимают умышленно изготовленные разрушительные наномашины, представляет собой гораздо большую проблему.

Один из способов защититься от угрозы черной топи, заключается в создании "активных щитов" — автоматических защитных систем со встроенными ограничениями, предназначенными для предотвращения их использования в агрессивных целях. Можно представить себе глобальную иммунную систему, состоящую из наномашин, блуждающих по поверхности Земли в поисках опасных репликаторов. Проблема с этим подходом заключается в том, что хотя создание надежной глобальной иммунной системы может быть возможным, это может оказаться гораздо сложнее, чем создание разрушительных наномашин. В таком случае, в течение некоторого времени мир будет беззащитен. Необходимо, чтобы в течение этого периода соглашения о нераспространении и всемирный контроль помешали агрессорам злоупотребить нанотехнологией.

Другой способ снизить риск нашей гибели заключается в создании рассредоточенных космических колоний. Опять-таки, проблема состоит в том, что для реализации таких проектов в больших масштабах потребуется слишком много времени.

Сколько будет длиться критический период (от разработки опасных наномашин до создания адекватной защиты), зависит от темпов технического прогресса в течение этого интервала. Те, кто полагают, что в будущем произойдет сингулярность [См. "Что такое сингулярность?"], уверены, что этот период может оказаться очень коротким.

Сверхразум. — Хотя в целом трансгуманисты желают создания сверхразума, некоторые опасаются, что плохо запрограммированный сверхразум может захотеть истребить всех людей или даже уничтожить всю разумную жизнь, включая себя. Что еще усиливает такие опасения, так это идея о том, что сверхразум умственно будет столь чуждым нам и столь превосходящим человеческий разум, что для нас будет очень сложно предвидеть или регулировать его мотивацию и невозможно контролировать его против его воли. [См. "Как постлюди или сверхразумные машины будут относиться к людям, чьи возможности не были расширены?"]

Ядерное и биологическое оружие. — Ядерное и биологическое оружие продолжают оставаться угрозами. Сегодняшних запасов оружия недостаточно, чтобы полностью уничтожить наш вид. Однако вполне возможно, что в будущем с помощью генной инженерии будут созданы еще более смертельные биологические агенты, чем мы имеем сегодня. Хочется надеяться, что разработка вакцин и противоядий не будет отставать от разработки токсинов и возбудителей болезней, но мы не может быть в этом уверены.

Предотвращение распространения оружия массового уничтожения должно иметь самый высокий приоритет для любой ответственной страны. Помимо масштабной войны, способной уничтожить наш вид, слишком легко представить себе "государство-изгой" или террористическую группу, использующих, возможно, с целью шантажа, оружие массового уничтожения, чтобы вызвать большие потери среди гражданского населения и разрушить цивилизацию.

Другие сценарии конца света. — Быстро усиливающийся парниковый эффект, при котором из-за потепления выделяется все больше и больше метана, который сам является парниковым газом, (по мнению большинства трансгуманистов, едва ли это приведет к нашему вымиранию); естественные пандемии, быстро распространяющиеся через межконтинентальный транспорт (вряд ли они погубят нас, но к этому нужно относиться серьезно); столкновение с кометой или астероидом (очень маловероятно); распад метаустойчивого вакуума, вызванный физическими экспериментами в области высоких энергий (энергия, достижимая сегодня, значительно значительно ниже даже энергии космического фонового излучения, но в будущем могут быть разработаны более мощные методы ускорения частиц, которые могут оказаться потенциально опасными). Бесспорно, что существуют и другие опасности, о которых мы пока не догадываемся. В этой связи представляет интерес спорный аргумент Картера-Лесли о конце света (Carter-Leslie Doomsday argument), в котором на основании теоремы Байеса и нескольких небольших эмпирических предположений, делается вывод о том, что риск гибели человечества до сих пор систематически недооценивался [см. ссылку].