Тоби Уолш - 2062: время машин

• Название: 2062: время машин
• Автор: Тоби Уолш
• Жанр: Прочая научная литература
• Год: 2019
• ISBN: 978-5-17-112828-9

2062 год – что это за дата? Ведущие эксперты по искусственному интеллекту и робототехнике предсказывают: в 2062 году мы сможем создать искусственный разум, который превзойдет возможности человека. Еще в начале 1990-х Гарри Каспаров уверен, что «в классических шахматах на серьёзном уровне компьютерам ничего не светит в XX веке»… и в 1997 году проигрывает компьютеру Deep Blue. А двадцать лет спустя AlphaGo выигрывает партию у лучшего в мире игрока в го. В интервью ВВС Стивен Хокинг заметил, что «полноценный искусственный интеллект может стать концом человеческой расы, поскольку будет самостоятельно и стремительно совершенствоваться, а люди, зависящие от медленной биологической эволюции, неспособны с ним конкурировать». Так ли это? Что же нас ждет теперь? На этот вопрос отвечает Тоби Уолш, признанный специалист по искусственному интеллекту. В своей книге он внимательно и последовательно изучает каждую сторону нашего «светлого будущего»: от мировой экономики до новой человеческой идентичности. Уже поздно обсуждать, хорош или плох будет мир в этом очень недалеком будущем. Сейчас главное – понять, как к нему готовиться.

---

Пятое преимущество компьютеров состоит в том, что они, в отличие от людей, не забывчивы. Подумайте, как часто мы тратим время на поиск потерянных вещей или забываем дни рождения. Это качество, конечно, может быть полезным: оно помогает нам не уделять внимания незначительным деталям. Однако запрограммировать компьютер на это также не составит никакого труда.

Шестое преимущество – человеческие эмоции, которые могут мешать процессу мышления. Компьютеры не испытывают эмоций и, следовательно, не могут быть сбиты ими с толку. С другой стороны, эмоции играют важную роль в нашей жизни и часто оказывают положительное влияние на процесс принятия решений. Вероятно, они имели значение в ходе эволюции. В будущем у нас появится возможность наделять компьютер эмоциями. Подробнее эта тема раскрывается в третьей главе вместе с другими важными темами, такими, например, как совесть.

В качестве седьмого преимущества можно назвать факт, обнаруженный нами ранее: люди ограничены в средствах и способах передачи знаний. Компьютеры же могут обмениваться кодами друг с другом без всяких ограничений. Если один компьютер научился переводить с китайского на английский, этот навык можно передать всем остальным компьютерам. Если один компьютер научился диагностировать меланому, этой способностью можно наделить все остальные машины. Компьютер – идеальное воплощение колёрнинга.

Восьмое преимущество заключается в том, что люди, на самом деле, довольно плохо умеют принимать решения. Мы достаточно развили этот навык, чтобы выжить, но несильно продвинулись дальше. Например, мы плохо высчитываем точные значения вероятностей. Если бы мы были в этом сильнее, то никогда бы не стали покупать лотерейные билеты. Компьютеры, однако, можно запрограммировать так, чтобы они добились в этом бо́льших успехов. Область поведенческой экономики изучает наши субоптимальные решения. К примеру, ситуации, в которых мы стремимся минимизировать расходы, вместо того чтобы увеличивать прибыль. Экономисты называют этот феномен «неприятие потерь». Существует много подобных примеров субоптимального поведения. Многие из нас боятся летать, хотя дорога на машине до аэропорта на деле куда опаснее. Мы знаем, что должны сбросить пару килограммов, но выбираем аппетитный пончик с джемом.

Разумеется, все не так однозначно. Компьютеры не во всем нас превосходят. В сравнении человек имеет пару серьезных преимуществ. Наш мозг все еще сложнее, чем самый мощный суперкомпьютер. Мы быстро учимся, невероятно креативны, обладаем эмоциональным интеллектом и способны к эмпатии. Однако есть повод для сомнений в том, что этими преимуществами мы будем обладать еще долго. Уже сейчас есть некоторые доказательства креативности компьютера, его способности испытывать эмоции и быть эмпатичным. В перспективе шансы homo sapiens победить в противостоянии с машинами не очень велики.

Наш преемник

Кто же тогда такой этот превосходящий нас homo digitalis, который заменит человека?

Вид определяется тем, что он собой представляет и в какой плоскости действует. Оба этих параметра в случае с homo digitalis будут перенесены в цифровой мир. Это будет наша цифровая версия. Компьютеры будут становиться умнее, мы будем перепоручать им все больше наших интеллектуальных задач. Мы освободимся от оков нашего сложного, нелепого и все-таки ограниченного мозга. Избавимся от тел, которые нуждаются в отдыхе и сне, разлагаются и умирают. Мы сможем наблюдать и действовать в нескольких местах одновременно. Мы будем сразу везде.

Homo digitalis будут гораздо умнее homo sapiens благодаря тому, что наш мозг будет помещен в цифровую среду. В конце концов, трудно будет отличить наши мысли от единого облачного разума ИИ. Homo digitalis избавятся от физической оболочки, будут одновременно биологическими и цифровыми существами. Мы будем жить одновременно в собственном мозгу и в общем цифровом пространстве.

Homo digitalis будут проводить совсем немного времени в медленном, сложном и опасном аналоговом мире. Со временем мы начнем жить и действовать исключительно в цифровом мире. После века климатических изменений, финансовых кризисов и терроризма он станет гостеприимным, правильным и хорошо организованным местом. Там не будет неопределенности, которая так часто осложняет нам жизнь в реальном мире. Не будет землетрясений или оползней. Никакой чумы. Все будет следовать точным и справедливым правилам. Homo digitalis будут хозяевами этой цифровой вселенной. В некотором смысле мы станем цифровыми богами.

Таков хороший сценарий – мы сами решим, как строить свое будущее. В этом смысле мы действительно можем быть богоподобны. Мы можем сделать этот цифровой мир будущего честным, справедливым и прекрасным. Или позволить тому, что правит современным миром, определить наше будущее, наполнить его неравенством, несправедливостью и страданиями. Выбор за нами. И делать его нужно уже сегодня.

Будущее не предопределено. Оно – результат тех решений, которые мы принимаем в настоящем. Однако кажется, что именно сейчас мы находимся на перепутье. Существует масса факторов, по вине которых мы можем оказаться на очень скользкой дорожке, ведущей к непростому и страшному миру.

Прямо сейчас у нас есть шанс принять такие решения, которые избавят человечество от подобного финала, направив его к светлому цифровому будущему. Некоторые из этих решений дадутся легко, некоторые – не очень. Они могут потребовать от нас ви́дения, решительности, самоотверженности и, возможно, даже самопожертвования.

Нам очень повезло: мы управляли этой планетой, этой удивительной зелено-голубой точкой, вращающейся вокруг ничем не примечательной звезды на небольшом рукаве Млечного Пути, последние несколько сотен тысяч лет. Ради наших внуков, которые будут в конце концов теми самыми homo digitalis, мы не должны испортить следующие несколько десятилетий.

Для кого эта книга?

Эта книга написана для всех, кому интересно, куда приведет нас ИИ. Здесь действительно есть над чем задуматься. Лишит ли ИИ людей работы, даже такой, которая требует креативности? Будет ли он обладать сознанием? Что появление ИИ значит для концепции свободной воли? Какими этическими качествами будет (или должен) обладать ИИ? Поможет ли он обществу или навредит? Изменит ли наше представление о себе? Какое влияние окажет на саму суть человечества?

Ответы на эти вопросы я буду давать по мере обсуждения социальных и этических аспектов нашего перехода в цифровой мир. Частично я буду опираться на тренды, которые заметны уже сегодня, и экстраполировать свои выводы на будущую ситуацию. Однако настоящее не определяет будущее раз и навсегда. Только решения, которые мы принимаем сейчас, сформируют мир далекого будущего. Поэтому я буду рассматривать как хорошие, так и плохие возможные варианты развития событий. От нас зависит, какой итог мы получим.

Эта книга сосредоточена на 2062 годе. В следующей главе я буду ссылаться на мнение большинства экспертов в сфере ИИ, которое заключается в следующем: существует пятидесятипроцентный шанс, что к этому времени мы создадим машины, способные мыслить так же, как мы. Возможно, эта дата чересчур оптимистична и нам придется ждать этого до 2220 года. Большинство экспертов считают, что с вероятностью в девяносто процентов дело обстоит именно так. Вне зависимости от конкретной даты, самое интересное начнется, когда компьютеры нас превзойдут.

Эта книга предназначена для интересующегося читателя, который тем не менее не является экспертом в данной области. В ней содержится парочка графиков, но нет никаких уравнений. Я не рассказываю здесь ни что такое ИИ, ни в каком он состоянии на данный момент. Если вам это интересно, читайте мою предыдущую книгу «Оно живое!». В примечаниях вы найдете ссылки, дополнительные объяснения и просто забавные наблюдения, но если вы их пропустите, то ничего не потеряете[17]. Однако если вы хотите побольше узнать о технической стороне вопроса, примечания снабдят вас дополнительными подробностями и списком литературы по теме.

Философ Ник Бостром предположил в 2015 году, что «искусственный интеллект будет иметь большое значение, являясь, возможно, самой важной вещью из когда-либо созданных человечеством». Если он прав, то необходимо изучить, к каким последствиям это приведет.

2. Наш конец

Столетиями мы привыкали к мысли о том, что машины могут быть лучше нас. В прошлом, однако, только наши мышцы проигрывали конкуренцию машинам, способным выполнить больший объем физической работы, чем человек. В последние пятьдесят лет речь идет уже о нашем мозге – как минимум, если рассматривать точечные интеллектуальные задачи. К 2062 году борьба, вероятно, будет окончена. Homo digitalis победят.

Тот факт, что первый чемпион мира проиграл компьютеру почти сорок лет назад, кажется удивительным. 15 июля 1979 года чемпион мира по нардам Луиджи Вилла был повержен программой Ханса Берлинера BKG 9.8 со счетом 7:1. По горькой иронии судьбы Вилла был чемпионом мира всего один день до своего проигрыша компьютеру. Самый недавний подобный случай произошел в 1997 году, когда действующий чемпион мира по шахматам Гарри Каспаров проиграл компьютеру Deep Blue от компании IBM. Описывая свое поражение, Каспаров так представил будущее, которое ждет человечество: «Я играл со многими компьютерами, но ничего подобного никогда не испытывал. Я понимал, я мог почувствовать, что передо мной новый вид интеллекта. И, хотя я играл на пределе своих возможностей, у меня не было шансов; компьютер показал прекрасную, безупречную игру и легко выиграл»[18].