Норберт Винер - Кибернетика или управление и связь в животном и машине

• Название: Кибернетика или управление и связь в животном и машине
• Автор: Норберт Винер
• Жанр: Прочая научная литература

«Кибернетика» — известная книга выдающегося американского математика Норберта Винера (1894—1964), сыгравшая большую роль в развитии современной науки и давшая имя одному из важнейших ее направлений. Настоящее русское издание является полным переводом второго американского издания, вышедшего в 1961 г. и содержащего важные дополнения к первому изданию 1948 г. Читатель также найдет в приложениях переводы некоторых статей и интервью Винера, включая последнее, данное им незадолго до смерти для журнала «Юнайтед Стэйтс Ньюс энд Уорлд Рипорт».

Книга, написанная своеобразным свободным стилем, затрагивает широкий круг проблем современной науки, от сферы наук технических до сферы наук социальных и гуманитарных. В центре — проблематика поведения и воспроизведения (естественного и искусственного) сложных управляющих и информационных систем в технике, живой природе и обществе. Автор глубоко озабочен судьбой науки и ученых в современном мире и резко осуждает использование научного могущества для эксплуатации и войны.

Книга предназначена для научных работников и инженеров.

---

Ответ. Обучающаяся машина — это такая машина, которая не просто, скажем, играет в какую-нибудь игру по твердым правилам, с неизменной стратегией, но периодически или непрерывно рассматривает результаты этой стратегии, дабы определить, нельзя ли изменить с пользой те или иные параметры, те или иные величины в стратегии.

Вопрос. Пример, который всегда приходит на ум, — машины, играющие в шашки…

Ответ. Прекрасно, возьмем шашки. Машина была достаточно хороша, чтобы через некоторое время стать способной систематически обыгрывать своего изобретателя, пока тот не выучил про шашки немного больше.

Вопрос. Почему же с шахматами не так?

Ответ. Потому что шахматы сложнее. С шахматами тоже будет так, но это потребует гораздо более длительной работы.

Вопрос. Обучаются ли машины письму?

Ответ. Да. Имеются машины, способные воспринять код и перевести его в рукописный шрифт или воспринять рукописный, а также печатный шрифт и перевести его в код. О да! Это разрабатывается: можно даже воспринять речь и перевести ее в код.

Вопрос. Говорить о думающих роботах, захватывающих власть над Землей, — фантастика?

Ответ. Фантастика, если только народ не придет к идее: «Оставим все Железному Майку!» Я хочу [c.322] сказать: если мы смотрим на машину не как на дополнение к нашим силам, а как на нечто их расширяющее, мы должны держать ее под контролем. Иначе нельзя. Машинопоклонники, ожидающие, что машина будет работать, а народ пусть сидит и получает все без труда, думают, конечно, по-другому.

Вопрос. Разумно ли используются сегодня вычислительные машины?

Ответ. В 10% случаев — да.

Вопрос. Поразительно низкая цифра. Почему Вы так говорите?

Ответ. Потому что нужен разум, чтобы знать, что давать машине. И во многих случаях машина используется в расчете на разум, которого-то и нет.

Вычислительная машина ценна ровно настолько, насколько ценен использующий ее человек. Она может позволить ему продвинуться дальше за то же самое время. Но он обязан иметь идеи. И на ранней стадии проверки идей вам не следует быть зависимым от вычислительных машин.

Вопрос. Относится ли это также к применению вычислительных машин как средства автоматизации? Иными словами, не используется ли автоматизация в некоторых случаях неразумно?

Ответ. Вне всякого сомнения. Однако, что касается примера, сие не моя область.

Вопрос. Какие можно назвать работы, для которых машины могут применяться разумно и которые они делают лучше, чем люди?

Ответ. Бухгалтерию, продажу билетов и тому подобное ведение записей. Когда мы составили свой план вычислений, машина может выполнить его гораздо лучше, чем человек. И вычислительные машины будущего смогут делать эти вещи еще лучше. Они будут обладать достаточной разносторонностью, чтобы позволить себе то, что делает мозг, — затрачивать массу усилий и все-таки достигать чего-то.

Вопрос. Эти машины будущего отнимут еще много занятий у людей?

Ответ. Отнимут.

Вопрос. Это обострит проблему, которая уже существует. Где же решение?

Ответ. Ответ гласит: мы больше не можем [c.323] оценивать человека по той работе, которую он выполняет. Мы должны оценивать его как человека.

В этом суть. Вся уйма работы, для которой мы сейчас используем людей, — это работа, в действительности делаемая лучше машинами. Ведь уже давно человеческая энергия стоит немного, поскольку речь идет о физической энергии. Сегодня человек, пожалуй, не смог бы произвести столько энергии, чтобы купить пищу для своего собственного тела.

Реальная коммерческая стоимость его услуг в условиях современной культуры недостаточна. Если мы оцениваем людей, мы не можем оценивать их на этой основе. Если мы настаиваем на применении машин повсюду, безотносительно к людям, но не переходим к самым фундаментальным рассмотрениям и не даем человеческим существам надлежащего места в мире, мы погибли.

Вопрос. Уже поздно остановить это движение ко все большей и большей автоматизации?

Ответ. То, что сделано, непоправимо. Я предвидел это в самом начале. Здесь налицо не просто факт, что используются вычислительные машины. Настоящую трудность представляет факт, что они стоят наготове для применения.

Иными словами, причина, по которой нам нельзя идти назад, заключена в том, что нам никогда не удастся уничтожить возможность использования вычислительных машин.

Вопрос. Вы считаете это необратимой тенденцией?

Ответ. Я не говорю даже о тенденции. Это необратимое приращение знания. Такое случилось с Адамом и Евой, когда они повстречались со змеем. Коль скоро вы вкусили от древа познания, вы вряд ли сможете сделать другое, чем идти дальше с этим знанием.

Вопрос. Итак, можно ожидать, что машины будут играть все большую роль в автоматизации, в бизнесе, в образовании…

Ответ. Можно. И во всяком случае, используем ли мы машины или нет (решение, которое мы так или иначе должны принять), тот факт, что они имеются налицо для использования, нельзя отбросить.

Вопрос. Вы хотите сказать, что более мудрым [c.324] решением был бы, возможно, отказ от использования некоторых машин?

Ответ. В определенных ситуациях это может оказаться более мудрым. Приведу вам пример. Сейчас с автоматизацией совсем нетрудно построить фабрику, способную произвести больше, чем может потребить весь рынок. Если вы беретесь за дело и лишь толкаете производство вверх, вы можете упереться в потолок. Конкуренция, как она понималась в прошлом, существенно изменяется при наличии автоматизации. Автоматизация больше несовместима с laissez faire[213].

Вопрос. Если в ближайшее десятилетие разовьется новая техника такого типа, на который Вы намекали, как можно задержать дальнейшую автоматизацию?

Ответ. Прогресс задерживали в прошлом не раз. Совсем не обязательно, если мы делаем новое оружие, немедленно пускать его в ход.

Вопрос. Вы нашли во время Вашей последней поездки в Россию, что Советы придают большое значение вычислительной машине?

Ответ. Я скажу вам, насколько большое. У них есть институт в Москве. У них есть институт в Киеве. У них есть институт в Ленинграде. У них есть институт в Ереване в Армении, в Тифлисе, в Самарканде, в Ташкенте и Новосибирске. У них могут быть и другие.

Вопрос. Используют ли они эту область науки полностью, если сравнить с нами?

Ответ. Общее мнение — и оно идет от самых разных лиц — таково, что они отстают от нас в аппаратуре: не безнадежно, а немного. Они впереди нас в разработке теория автоматизации.

Вопрос. Д-р Винер, необходимо ли сегодня использование вычислительных машин для военных решений?

Ответ. Да, и они могут быть использованы весьма неразумно. Я не сомневаюсь, что проблема того, когда нажать «большую кнопку», трактуется сейчас с точки зрения обучающихся машин. Я был бы очень удивлен, если бы дело обстояло иначе, ведь это ходовые идеи. Вы знаете: «Пусть делает Железный Майк!»

Но давайте рассмотрим это чуть поподробнее. Как [c.325] учатся солдаты своему ремеслу? Посредством военных игр. Веками они упражнялись в играх на карте. Прекрасно! Если вы располагаете некоторым формальным критерием, определяющим, что значит выиграть войну, вы можете заниматься такими играми. Но вам не мешало бы удостовериться, что ваш критерий есть то, что вы действительно хотите, а не некая формализация желаемого. В противном случае вы можете создать вычислительную машину для ядерной войны, которая все разрушит.

Вопрос. Как можно программировать вычислительную машину для ядерной войны, если Вы никогда не имели настоящего опыта подобной войны?

Ответ. Совершенно нельзя. Но тем не менее это сейчас пытаются делать. Экспертов по атомной войне нет. Эксперт — это человек, обладающий опытом. Такого человека сегодня мы не имеем. Поэтому программирование военных игр на основании искусственных критериев успеха в высшей степени опасно и может кончиться плохо.

Вопрос. Существует ли тенденция к программированию такого рода?

Ответ. Тенденция в этом направлении существует, и эта глупость верхов меня поражает. Автомат обладает свойством, которым некогда наделяли магию. Он может дать вам то, что вы просите, но не скажет вам, чего просить.

Мы слышали речи, что нам нужно создать машинные системы, которые скажут нам, когда нажать кнопку. Но нам нужны системы, которые скажут нам, что случится, если мы будем нажимать кнопку в самых разных обстоятельствах, и — главное — скажут нам, когда не нажимать кнопки!