Ричард Йонк - Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

• Название: Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта
• Автор: Ричард Йонк
• Жанр: Прочая научная литература
• Год: 2019
• ISBN: 978-5-04-091404-3

Футурист Ричард Йонк прогнозирует будущее, в котором люди и машины будут жить бок о бок, а сами машины станут не просто «умнее», но и «эмоциональнее». Развитие такого направления, как эмоциональное программирование, сегодня делает подобные утверждения вполне обоснованными, и будущее, о котором принято размышлять абстрактно, может наступить всего через 15 лет.

---

Наконец, общество найдет способы справиться с наиболее важными проблемами, и есть надежда, что оно не станет злоупотреблять запретительными мерами. Запрет технологии под предлогом возможного неблагоприятного исхода не приведет ни к чему, кроме разве что технофобии. Достаточно обратиться к истории, чтобы понять, как далеко заходит подобный страх. Например, греческий философ Платон не поддерживал развивавшуюся в его время технологию письма и всеобщей грамотности.

Стоит людям обучиться этому, и в их душах воцарится забывчивость, они перестанут упражнять память, уповая лишь на то, что записано, вспоминая не то, что осталось у них в уме, а прибегая к помощи внешних знаков. Ваше открытие – средство не для памяти, а для напоминания. Это не истинная мудрость, которую вы передаете ученикам, а лишь ее видимость, так как рассказывая им о многом, но при этом не обучая их, вы дадите им лишь видимость того, что они много знают, хотя в большинстве своем они не знают ничего, и, будучи полны не мудрости, но лишь своего понимания мудрости, они будут лишь обузой окружающим36.

Слова Платона о последствиях письма для до-письменного общества и словесной памяти в чем-то верны, но в наши дни вряд ли найдутся люди, абсолютно уверенные в том, что без письменности жилось бы лучше. Ее использование, как и любой другой технологии, обернулось и на благо, и во вред, но баланс определенно склонился в положительную сторону. Можно возразить, что некоторые письменные труды, созданные за прошедшие века, причинили человечеству вред, но вряд ли это стало бы оправданием для уничтожения письменности в целом.

В истории можно найти примеры, когда новые технологии вызывали страх. Печатный станок, электричество, автомобили, компьютеры и смартфоны – лишь немногие из примеров. Сложно назвать технологию, использование которой не затрагивало бы широкий спектр вопросов этики и морали. В этом отношении нет оснований считать, что с эмоциональным программированием будет иначе.

Многие из нас, если не все, сочтут некоторые последствия эмоционального программирования настораживающими или губительными. Наши мысли, равно как и наши чувства, считаются самым сокровенным убежищем, областью, неприкосновенность которой никогда не должна нарушаться. Подобное вторжение равносильно собственно чтению мыслей. Как мы убедимся позже, это может оказаться не так далеко от истины.

Еще одним поводом для беспокойства могут оказаться манипуляции по типу Мэдисон-авеню, и эта возможность кажется вполне обоснованной (как мы увидим в главе 10). Реклама и маркетинг всегда стремились изменить поведение аудитории. Возможность получать эмоциональную обратную связь от потребителей в режиме реального времени изменит эту сферу целиком и полностью.

Конечно же, мы рассмотрим и старый как мир вопрос о том, не принижает ли новая зарождающаяся технология наше достоинство, расчеловечивая нас. Рациональное объяснение состоит в том, что новое устройство или система разобщит нас или изменит наше поведение до такой степени, что мы будем напоминать машины. Так что же произойдет, если мы достигнем своей цели и сделаем машины похожими на нас?

Мы находимся на пороге странной новой эры, когда границы между людьми и технологиями становятся все более зыбкими. Нам станут доступны чудеса, которых мир прежде не видел. Наверняка появятся возможности и задачи, о которых мы не знали прежде. Как ни парадоксально, это прекрасное светлое будущее принесет свою долю страхов и беспокойства, но оно же внесет свой вклад во всеобщее счастье, радость и, возможно, даже любовь.

При всех разрушительных переменах мы, без сомнения, снова и снова зададим себе вопрос: что значит быть человеком, где проходят наши границы, что так сильно отличает нас от остального природного и технологического мира. В конце концов, мы можем прийти к выводу, что это различие не такое важное, как нам когда-то казалось. Мы можем даже обнаружить, что в новую эру эмоционально грамотных машин мы разделим будущее с новой формой сознания, которая является отражением нас самих.

Глава 3 Строя будущее

Город N., США – 1987 год

Эллиот добился в жизни того, о чем многие люди могли только мечтать. В свои тридцать с небольшим лет он работал юристом по корпоративному праву, был умен и в хорошей физической форме. У него были жена, дети, дом, деньги и приличный социальный статус. А потом жизнь Эллиота начала стремительно и внезапно рушиться. Он начал испытывать сильнейшие головные боли, и ему становилось все труднее сосредоточиться. С учетом других изменений в поведении наблюдавшие его врачи заподозрили у него опухоль мозга, и вскоре подозрение оправдалось.

Это была менингиома, обычно доброкачественная опухоль, зарождающаяся в тканях оболочек мозга и стремительно разрастающаяся. На момент постановки диагноза она достигла размеров небольшого апельсина. Она располагалась прямо за глазами, над носовыми полостями и все сильнее давила на лобные доли мозга Эллиота. Несмотря на то что опухоль была доброкачественной, она продолжала расти и грозила неизбежными повреждениями мозга с последующим смертельным исходом. Врачи решили, что хирургическое вмешательство – единственный вариант. В ходе долгой операции они успешно удалили опухоль и некоторое количество поврежденной ткани, что нормально при подобных процедурах.

Физически Эллиот полностью выздоровел. Его высокий интеллект и речь не пострадали. С когнитивной точки зрения он был функционально способен выполнять многие задачи, которые выполнял до операции. Тем не менее вскоре стало очевидно, что Эллиот сильно изменился. На первый взгляд, здравый смысл остался при нем, но Эллиот больше не мог принимать решения, касающиеся личного выбора, и выполнять связанные с ними действия. Как будто все в его жизни стало одинаково важным, из-за чего принять решение было невозможно. Он не мог определить, что нужно сделать – или чего не нужно делать – в какое угодно время. Всё – абсолютно всё – приобрело для него равную ценность, а в результате относительная ценность для него перестала существовать.

Например, если нужно было что-то упорядочить и рассортировать, Эллиот мог выполнить задачу достаточно качественно. На самом деле слишком качественно, поскольку он мог весь день выбирать критерий для сортировки – дата, размер документа, номер дела, важность или какой-то другой. С интеллектуальной точки зрения он мог привести большой список за и против каждого подхода, но не мог выбрать, какой из них лучше. В процессе он мог начать читать какой-то документ и провести за его изучением остаток дня. Он был просто не в состоянии определить степень важности для каждой задачи и на его основе принять верное и своевременное решение. В таком изложении ситуация выглядит очень сложной и формализованной, но на самом деле мы каждый день делаем все то же самое по сотне, если не по тысяче раз.

В течение следующих нескольких месяцев Эллиот потерял работу, жену и дом. Он ввязывался в сомнительные и затратные предприятия, из-за чего остался банкротом. Вся его жизнь полетела под откос.

Однако из разговоров с Эллиотом было ясно, что он ничего не чувствует по поводу своих потерь. Он не испытывал ни грусти, ни гнева, ни досады. Он просто жил. И хотя его знания и интеллект сохранились, опухоль все же отняла у него нечто очень ценное – связь с собственными эмоциями и, более того, способность определять, что важно, а что нет. Всё, что было в его жизни – значительное и несущественное, – приобрело одинаковую ценность, и в конце концов он всё потерял.

* * *

Антонио Дамасио, специалист в области нейронаук и писатель, длительное время наблюдавший Эллиота и описавший его случай, объясняет эту потерю связи1. Область мозга Эллиота, которая была сильнее всего повреждена, разорвала сообщение между участками, которые отвечают за обработку чувств и мотивацию. Гипотеза соматического маркера Дамасио предполагает, что главную функцию в этом процессе выполняет вентромедиальная префронтальная кора головного мозга. Эта часть коры содержит обширную сеть сообщения с другими областями мозга, включая переднюю поясную кору и миндалевидную железу.

Многочисленные тесты с участием Эллиота и других людей, у которых была повреждена та же область мозга, показали, что такие люди хронически неспособны переживать свое соматическое состояние или знать о нем. То есть сигналы, которые передавал организм – учащенное сердцебиение, повышенное потоотделение, нервная дрожь, встопорщенные волоски на коже, – не поступали в область мозга, которая отвечает за их классификацию и соединяет физио-эмоциональное осознание с другими когнитивными функциями. По словам Дамасио, эти стимулы объединяются и образуют чистое соматическое состояние, которое смещает когнитивную обработку более высокого уровня и влияет на процесс принятия решений.