Тоби Уолш - 2062: время машин

• Название: 2062: время машин
• Автор: Тоби Уолш
• Жанр: Прочая научная литература
• Год: 2019
• ISBN: 978-5-17-112828-9

2062 год – что это за дата? Ведущие эксперты по искусственному интеллекту и робототехнике предсказывают: в 2062 году мы сможем создать искусственный разум, который превзойдет возможности человека. Еще в начале 1990-х Гарри Каспаров уверен, что «в классических шахматах на серьёзном уровне компьютерам ничего не светит в XX веке»… и в 1997 году проигрывает компьютеру Deep Blue. А двадцать лет спустя AlphaGo выигрывает партию у лучшего в мире игрока в го. В интервью ВВС Стивен Хокинг заметил, что «полноценный искусственный интеллект может стать концом человеческой расы, поскольку будет самостоятельно и стремительно совершенствоваться, а люди, зависящие от медленной биологической эволюции, неспособны с ним конкурировать». Так ли это? Что же нас ждет теперь? На этот вопрос отвечает Тоби Уолш, признанный специалист по искусственному интеллекту. В своей книге он внимательно и последовательно изучает каждую сторону нашего «светлого будущего»: от мировой экономики до новой человеческой идентичности. Уже поздно обсуждать, хорош или плох будет мир в этом очень недалеком будущем. Сейчас главное – понять, как к нему готовиться.

---

Тот факт, что первый чемпион мира проиграл компьютеру почти сорок лет назад, кажется удивительным. 15 июля 1979 года чемпион мира по нардам Луиджи Вилла был повержен программой Ханса Берлинера BKG 9.8 со счетом 7:1. По горькой иронии судьбы Вилла был чемпионом мира всего один день до своего проигрыша компьютеру. Самый недавний подобный случай произошел в 1997 году, когда действующий чемпион мира по шахматам Гарри Каспаров проиграл компьютеру Deep Blue от компании IBM. Описывая свое поражение, Каспаров так представил будущее, которое ждет человечество: «Я играл со многими компьютерами, но ничего подобного никогда не испытывал. Я понимал, я мог почувствовать, что передо мной новый вид интеллекта. И, хотя я играл на пределе своих возможностей, у меня не было шансов; компьютер показал прекрасную, безупречную игру и легко выиграл»[18].

Так же, как и разгром Виллы, поражение Каспарова было жестоким итогом. Он считался многими одним из величайших шахматистов за всю историю игры. В 1985 году, когда он впервые стал чемпионом мира, он был самым юным спортсменом, который добивался таких результатов. Спустя двадцать лет он покинул шахматы, но остался самым высокооцениваемым игроком. То есть самым высокооцениваемым игроком-некомпьютером. Очень жаль, что некоторые могут запомнить Каспарова только как первого чемпиона мира по шахматам, проигравшего компьютеру.

Компьютеры для игры в шахматы с тех пор сильно изменились. Ни Каспаров, ни действующий чемпион мира Магнул Карлсен не способны соперничать с лучшими из доступных программ. Каспаров, конечно, постарался бы победить мобильное приложение Pocket Fritz 4. Рейтинг Эло этой программы составляет 2898, тогда как максимальный рейтинг Каспарова – 2851[19].

Когда программа пользуется бо́льшими вычислительными ресурсами, чем те, которые содержит мобильное устройство, у человека практически нет против нее шансов. Deep Fritz, который можно запустить на обычном компьютере, имеет рейтинг Эло 3150. Разница в триста очков между ним и Каспаровым означает, что вероятность победы российского шахматиста составляет один к пяти в отдельно взятой игре и стремится к нулю в длительном соревновании. Я как человек, обладающий гораздо более низким рейтингом Эло, не имею почти никаких шансов на победу в матче против Deep Fritz.

Но шахматы вовсе не пострадали от такого распределения сил. Наоборот, машины помогли развитию игры в нескольких направлениях. Теперь компьютеры дают профессиональные советы начинающим игрокам. Они также открыли нам новые ходы, о наличии которых мы, быть может, никогда бы и не догадались. Так что их господство в шахматах пошло на пользу самой игре.

Запуск всех систем

Март 2016 года – еще одна важная точка в истории ИИ. Именно тогда программа AlphaGo от компании DeepMind победила Ли Седоля, одного из лучших игроков в го на планете. Го – древняя и очень сложная китайская настольная игра, в которой нужно помещать черные или белые камешки на доску размером 19×19 так, чтобы захватить большую часть территории.

Го – гораздо более сложный случай, чем шахматы, по нескольким причинам. В шахматах существует двадцать возможных ходов в каждом отдельно взятом случае. В го таких ходов может быть около двухсот[20]. В шахматах часто не так сложно определить, кто побеждает: за каждую фигуру на столе можно начислить определенное количество очков, и игрок с наибольшим количеством очков, вероятно, лидирует. В го же все фигурки одинаковы. Для того, чтобы определить, кто побеждает, нужно внимательно следить за тем, какую территорию занимает каждый из участников. Человеку требуются годы практики, чтобы научиться хорошо играть в го.

В мае 2017 года DeepMind убедительно доказала, что победа над Седолем в 2016-м не была одержана AlphaGo случайно. В матче на 1,8 миллиона долларов[21] улучшенная версия программы победила китайскую легенду го Кэ Цзе, который впоследствии был назван лучшим игроком в мире.

Однако, несмотря на то что эти две победы значат очень много для развития ИИ, не стоит переоценивать их значимость. AlphaGo была специально разработана для игры в го. Потребовалось бы очень много усилий, чтобы приспособить ее для других игр, таких как, например, покер[22]. Трудно представить, что те же техники, которые работают в AlphaZero (новейшая версия AlphaGo работает исключительно на основе знания правил игры), будут работать и в азартных играх. Разумеется, AlphaZero не способна водить машину, написать роман или перевести юридический документ.

Другое заблуждение может заключаться в том, что результат, которого достигла AlphaGo, появился ниоткуда, а потому указывает на некий «экспоненциальный» рост в сфере ИИ. На самом деле это не так. Это, несомненно, важное достижение DeepMind, привлекшее к себе столько внимания, заслуживает всяческих похвал. Однако, несмотря на то что AlphaGo предлагает некий новый способ соединения компонентов, сами компоненты остаются практически неизменными[23].

До появления AlphaGo самой успешной компьютерной программой была CrazyStone, написанная Реми Куломом[24]. В 2014 году Кулом сказал в интервью, что первая победа программы над профессиональным игроком состоится через десять лет. Однако AlphaGo потребовалось немногим больше года, чтобы победить Фэна Хуи, трехкратного чемпиона Европы, и еще один, чтобы победить Ли Седоля.

Так или иначе, DeepMind приложили больше всех усилий к решению этой задачи. Раньше программы для игры в го писались одним человеком; над AlphaGo работало около пятидесяти человек. Это заняло меньше одной десятой того времени, которое этот процесс должен был занять по мнению Кулома, но потребовало количество людей, превышающее предполагаемое более чем в десять раз.

DeepMind также имели доступ к обширным серверным фермам Google, которые позволили AlphaGo играть миллиарды раз против себя самой. Даже если бы человек всю жизнь не занимался ничем другим, кроме игры в го, он бы все равно не смог даже приблизиться к такому количеству партий. Из этого следует, что AlphaGo не так уж быстро учится. Люди, в отличие от подобных программ, могут научиться что-то делать, увидев это лишь единожды. Мы всё еще пытаемся создать ИИ, который мог бы учиться на основе такого маленького количества данных. Так что, несмотря на то что победы AlphaGo стали важным символическим моментом для ИИ, они не были таким прорывным достижением, каким его представляет для вас PR-отдел Google[25].

Не только игры

Игры представляют для ИИ простую задачу. Обычно в них есть четкие правила, а победителя легко определить. Такие игры, как шахматы или го, обычно требуют от игрока незаурядных умственных способностей, а потому неудивительно, что для испытаний ИИ они подходят идеально.

Однако машины превзошли человека не только в играх. Мы наблюдаем, что компьютеры начинают работать эффективнее человека и в некоторых более прикладных областях. Например, в медицине компьютеры читают электрокардиограммы лучше врачей. В Стэнфордском университете команда под руководством Эндрю Ына, бывшего главы отдела исследований ИИ в Baidu, построила модель машинного обучения, которая может определить аритмию по электрокардиограмме лучше, чем квалифицированный врач.

Другой пример – рак. Команда Google применила машинное обучение для того, чтобы диагностировать рак груди по отчетам о патологии точнее, чем это способны сделать люди. Кроме того, это значительно ускоряет и удешевляет процесс. Третий пример: еще в 1980-е экспертная система PUFF диагностировала заболевания легких наравне с врачами в калифорнийской больнице. Искусственный интеллект уже делает наше здравоохранение лучше, быстрее и дешевле.

Компьютеры начинают обгонять людей и в деловой сфере. Возьмем, к примеру, фондовый рынок. BlackRock – самый крупный владелец активов в мире. Компания управляет более чем пятью триллионами долларов. Многие из активов уже контролируются алгоритмами. Компьютеры имеют серьезное преимущество в этом поле деятельности перед людьми: они могут проанализировать огромный объем данных. Способны выполнять задачи, которые не под силу нам: заниматься мониторингом спутниковых данных с парковок магазинов или анализировать интернет, чтобы предсказать объем продаж и экономический рост.

Другая область, которую подчиняют себе компьютеры, – страхование. В Японии компания Fukoku Mutual Life Insurance теперь обрабатывает выплаты с помощью Watson, искусственного интеллекта от IBM. Как только компания начала пользоваться ИИ, она сократила тридцать четыре сотрудника, которые раньше выполняли эту работу. Сейчас она рассчитывает с помощью ИИ экономить около миллиона долларов в год.

Теперь обратимся к юридической сфере. Различные стартапы вроде Luminance могут автоматически обрабатывать огромные и неупорядоченные объемы данных, чтобы помочь юристам проводить экспертизу по контрактам. Программа может найти несоответствия вдвое быстрее людей. Более того, благодаря программе отныне для выполнения этой задачи не нужно обладать такой высокой компетенцией.