Тоби Уолш - 2062: время машин

• Название: 2062: время машин
• Автор: Тоби Уолш
• Жанр: Прочая научная литература
• Год: 2019
• ISBN: 978-5-17-112828-9

2062 год – что это за дата? Ведущие эксперты по искусственному интеллекту и робототехнике предсказывают: в 2062 году мы сможем создать искусственный разум, который превзойдет возможности человека. Еще в начале 1990-х Гарри Каспаров уверен, что «в классических шахматах на серьёзном уровне компьютерам ничего не светит в XX веке»… и в 1997 году проигрывает компьютеру Deep Blue. А двадцать лет спустя AlphaGo выигрывает партию у лучшего в мире игрока в го. В интервью ВВС Стивен Хокинг заметил, что «полноценный искусственный интеллект может стать концом человеческой расы, поскольку будет самостоятельно и стремительно совершенствоваться, а люди, зависящие от медленной биологической эволюции, неспособны с ним конкурировать». Так ли это? Что же нас ждет теперь? На этот вопрос отвечает Тоби Уолш, признанный специалист по искусственному интеллекту. В своей книге он внимательно и последовательно изучает каждую сторону нашего «светлого будущего»: от мировой экономики до новой человеческой идентичности. Уже поздно обсуждать, хорош или плох будет мир в этом очень недалеком будущем. Сейчас главное – понять, как к нему готовиться.

---

Подобные случаи применения ИИ уже меняют многие профессиональные области. Сложно представить, что какой-то сектор экономики останется нетронутым к 2062 году.

Общий искусственный интеллект

Все ИИ, которые мы обсуждали до этого, были способны решить только одну конкретную задачу. Играть в го. Читать маммограммы. Анализировать акции. Цель разработки общего искусственного интеллекта (ОИИ) – написать программу, которая может делать все так же, как (или лучше, чем) человек. До осуществления этой цели нам все еще далеко, и, несмотря на те спекуляции, которые можно увидеть в прессе, выполнению этой задачи препятствуют серьезные факторы.

Во-первых, люди быстрообучаемы. Им приходится такими быть. У них это в ДНК. Нет времени учиться на собственных ошибках, когда за тобой гонится тигр. Системы ИИ же учатся не так быстро. Последние успехи в их обучении, связанные с игрой в го, переводом с китайского или распознаванием изображений, основываются на обработке огромного количества данных.

Существует множество условий, в которых мы не имеем такого количества данных, а также условия, в которых мы никогда их не будем иметь. К примеру, мой робот сломается, если упадет слишком много раз, когда будет учиться ходить. Мы также не обладаем большим количеством информации, если речь идет о каком-то редком заболевании. Или в случае, если фондовый рынок обрушится. Чтобы заполнить эти лакуны, нужно создать ИИ, который учится так же быстро, как человек.

Во-вторых, люди хорошо умеют объяснять свои решения. Это не менее важно, чем умение их принимать. Я могу не согласиться на операцию, если врач не сможет объяснить, почему она необходима. Ядерный реактор должен объяснить, почему он прекращает работу. Системы же ИИ всё еще остаются черными ящиками[26]. Они дают ответы, но не объясняют, как их получили. Алгоритм глубокого обучения может определить, что на фотографии кошка, но не сможет сказать, как он это определил. По наличию шерсти или четырем милым лапкам? Он также не может сказать, почему это не собака. Нам нужно создать такой ИИ, который будет способен объяснить свое решение.

В-третьих, люди хорошо понимают мир, в котором живут. Когда мы рождаемся, мы почти ничего не знаем о том, как он устроен. Вот яблоко падает на землю из-за гравитации. Вот дождь – выпаренная влага, капающая с неба. Вот Земля вращается вокруг Солнца, а Луна – вокруг Земли. Разумеется, Луна подчиняется тем же законам гравитации, что и яблоко. Мы выучили все это и многое другое. Мы собираем информацию и синтезируем ее в общее представление о том, как работает наша Вселенная.

Современные ИИ на такое не способны. Если вы предлагаете компьютеру перевести фразу «мужчина был беременным», он не поймет, что она звучит странно. Если показать ему картинку человека, выпускающего из руки яблоко, он не сможет определить, что яблоко впоследствии упадет на землю с ускорением в 9,8 м/с2. Нам все еще необходимо разработать ИИ, который будет иметь цельное представление о мире. Систему, которая обладала бы нашим здравым смыслом.

В-четвертых, люди хорошо умеют адаптироваться. Помести нас в новую ситуацию – мы тут же начнем приспосабливаться к ней. Когда на космическом корабле «Аполлон-13» взорвался бак с кислородом, весь мир затаил дыхание, пока астронавты и диспетчеры адаптировались к невозможным условиям и вернули экипаж на Землю невредимым.

Умение приспосабливаться и сделало нас доминирующим видом (и не только как в описанном выше случае) на планете.

Системы ИИ – довольно хрупкая вещь. Малейшие изменения в поставленной задаче нарушают ее работу. Существует специальная область изучения ИИ, занимающаяся поиском причин, по которым система работает некорректно. Какие изменения во внешнем виде знака «стоп» могут помешать ИИ его распознать? Какие похожие объекты он может принять за этот знак?

Нам еще предстоит создать такую систему ИИ, которая выходит из строя постепенно, как человек.

Сколько нам осталось?

С некоторыми узкими задачами машины справляются гораздо лучше человека. Однако мы все еще даже не приблизились к тому, чтобы построить ОИИ. Когда это произойдет? И как скоро после этого компьютеры станут умнее людей? Создаст ли это для нас проблемы? Или для наших детей и внуков? Учитывая миллионы лет, которые потребовались для возникновения человеческого разума, возможно, это произойдет не так скоро? Возможно, через века или даже тысячелетия? А может, вовсе никогда не случится?

На конференции 2017 года в «Асиломаре», посвященной будущему ИИ, Эндрю Макафи заметил: «Любой, кто уверенно озвучивает предсказания, связанные с будущим ИИ, врет либо вам, либо самому себе». Я постараюсь проигнорировать этот мудрый совет и все же попытаюсь сделать прогноз. Вообще-то, я не буду ничего предсказывать сам, за меня это сделает толпа экспертов в области ИИ. Понадеемся, что она кое-что смыслит в теме.

В январе 2017 года я попросил триста моих коллег, ученых, занимающихся искусственным интеллектом, дать оценку тому, сколько времени понадобится, чтобы преодолеть препятствия на пути к ОИИ. Я также опросил около пятисот человек, не являющихся экспертами в этой области, чтобы поместить утверждения моих коллег в контекст.

Люди, не имеющие отношения к ИИ, – читатели моей новостной статьи о программе Libratus, которая выиграла в покер у нескольких выдающихся игроков. В конце статьи я попросил читателей поучаствовать в небольшом опросе о противостоянии человека и машины. Я ожидал несовпадения между результатами этого опроса и мнением экспертов. И оказался прав.

Учитывая, что время, которое потребуется на создание ИИ, способного конкурировать с человеком, невозможно определить с точностью, опрос включал в себя три пункта. Когда вероятность того, что компьютер сможет заменить человека (хотя бы среднего специалиста) во всех профессиях, будет составлять десять процентов? Когда эта вероятность вырастет до пятидесяти процентов? А когда до девяноста? Это повторение вопросов из исследования 2012 года, опубликованного в книге Ника Бострома «Искусственный интеллект»[27]. Я хотел посмотреть, стали ли люди называть более близкие даты по сравнению с 2012 годом по причине всей шумихи, которая создавалась вокруг ИИ в последнее время. Опрос, проведенный Бостромом, был одним из главных доказательств его теории, что ИИ представляет относительно близкую угрозу для человечества. Если создание ОИИ ожидается в скором будущем, нам придется воспринять его предупреждение всерьез.

Но все оказалось иначе. Эксперты оказались в своих прогнозах относительно создания человекоподобного ИИ гораздо более осторожны, чем неэксперты. В качестве даты, когда вероятность этого составит девяносто процентов, эксперты в среднем называли 2112 год, а неэксперты – 2060-й[28].

Голливуд и текущая популярность темы ИИ – вот объяснение полувековой разницы между этими датами. Я часто шучу, что лучшее, что ИИ может сделать, чтобы успокоить людей и улучшить собственный имидж в их глазах, – основать сценарное агентство в Лос-Анджелесе.

В 2062 году, по мнению экспертов, эта вероятность составит пятьдесят процентов. Отсюда и название книги – год, в который, по мнению моих коллег, человек сможет построить ИИ, не уступающий ему. Неэксперты называли 2039 год, то есть дату на два десятилетия раньше. Они чуть оптимистичнее Рэя Курцвейла, футуролога и технического директора Google, который предполагает, что машины превзойдут человека в 2045 году.

Наконец, десятипроцентная вероятность такого развития событий станет возможна, по мнению экспертов, в 2034 году. Неэксперты считают, что это произойдет в 2026 году, то есть менее чем через десять лет. Почти в два раза ближе, чем дата, названная экспертами.

Почему эксперты менее оптимистичны, чем обычные люди? Одна из проблем заключается в том, что люди, которые видят, как ИИ великолепно играет в сложные игры вроде шахмат или го, делают из этого вывод, что раз это игры, требующие выдающихся интеллектуальных способностей, то ИИ уже ими обладает. В случае с людьми это действительно так. Хороший игрок в го скорее всего окажется умным человеком, но с компьютерами все иначе, ведь хорошая программа для игры в го необязательно должна уметь даже играть в шахматы. Между игрой в го и многими другими интеллектуальными задачами, которые могут решать люди, большая пропасть.

Мое мнение не отличается от мнения большинства моих коллег: пройдет как минимум полвека, прежде чем мы увидим человекоподобный компьютер. Учитывая, сколько для этого нужно совершить прорывов, которые тоже неизвестно, когда произойдут, это может занять даже сто или больше лет. В таком случае вам сегодня не о чем беспокоиться.

Технологическая сингулярность

Одним из поводов поверить в то, что машины вскоре догонят человека или даже превзойдут его, является привлекательная, но опасная идея технологической сингулярности. Ее история берет начало пятьдесят лет назад и обязана своим появлением нескольким людям: одному из создателей компьютера Джону фон Нейману и математику и криптографу, работавшему в Блетчли-парк, Ирвингу Дж. Гуду. В последние годы идея была популяризирована научным фантастом Верноном Винджем и футурологом Рэем Курцвейлом.