Мы трое сочли необходимым написать и опубликовать статью, излагающую эту новую точку зрения[213]. Как д-р Розенблют, так и я предвидели, что эта статья может быть только изложением программы большой экспериментальной работы. Мы решили, что если когда-нибудь нам удастся создать институт, занимающийся проблемами связей между разными науками, то эта тема была бы почти идеальным объектом для нашей деятельности.
Что касается техники связи, то для г-на Бигелоу и для меня уже стало очевидным, что техника управления и техника связи неотделимы друг от друга и что они концентрируются не вокруг понятий электротехники, а вокруг более фундаментального понятия сообщения. При этом несущественно, передается ли сообщение посредством электрических, или механических, или нервных систем. Сообщение представляет собой дискретную или непрерывную последовательность измеримых событий, распределенных во времени, т. е. в точности то, что статистики называют временным рядом.
Предсказание будущего отрезка сообщения производится применением некоторого оператора к прошлому отрезку сообщения, независимо от того, реализуется ли этот оператор алгоритмом математических вычислений или электрическими и механическими устройствами. В связи с этим мы нашли, что идеальные предсказывающие устройства, которые мы сначала рассматривали, подвержены воздействию ошибок двух противоположных видов. Первоначально спроектированный нами предсказывающий прибор можно было сделать таким, чтобы он предугадывал весьма гладкую кривую с любой степенью точности. Однако повышение точности достигалось ценой повышения чувствительности прибора. Чем лучше был прибор для гладких сигналов, тем сильнее он приводился в колебания небольшими нарушениями гладкости и тем продолжительнее были такие колебания. Таким образом, хорошая экстраполяция гладкой кривой, по-видимому, требовала применения более точного и чувствительного прибора, чем наилучшее возможное предсказание негладкой кривой; в каждом отдельном случае выбор прибора зависел бы от статистической природы предсказываемого явления. Можно было думать, что эти два вида взаимозависимых ошибок имеют нечто общее с противоречивыми задачами измерения положения и количества движения, рассматриваемыми в квантовой механике Гейзенберга в соответствии с его принципом неопределенности.
После того как мы уяснили, что решение задачи оптимального предсказания можно получить, лишь обратившись к статистике предсказываемого временного ряда, было уже легко превратить то, что сперва представлялось трудностью для теории предсказания, в эффективное средство решения задачи предсказания. Приняв определенную статистику для временного ряда, можно найти явное выражение для среднего квадрата ошибки предсказания при данном методе и на данное время вперед. А располагая таким выражением, мы можем свести задачу оптимального предсказания к нахождению определенного оператора, при котором становилась бы минимальной некоторая положительная величина, зависящая от этого оператора. Задачи на минимум такого типа решаются в хорошо развитой отрасли математики — вариационном исчислении, и эта отрасль имеет хорошо развитую методику. Благодаря этой методике мы оказались в состоянии получить в явном виде наилучшее решение задачи предсказания будущего отрезка временного ряда на основе его статистических свойств и, более того, найти физическую реализацию этого решения посредством реальных приборов.
Проделав это, мы увидели, что, по крайней мере, одна задача технического проектирования приняла совершенно новый вид. Ведь обычно техническое проектирование считается скорее искусством, чем наукой. Сведя задачу такого рода к разысканию определенного минимума, мы поставили дело проектирования на более научную основу. Нам пришла мысль, что перед нами не изолированный случай и что существует целая область инженерной работы, в которой аналогичные задачи проектирования можно решать методами вариационного исчисления.
Мы обратились к другим аналогичным задачам и решили их этими методами. В числе решенных задач была задача проектирования волновых фильтров. Часто бывает так, что передаваемое сообщение искажают посторонние помехи, так называемый шумовой фон. Тогда встает задача восстановления посланного сообщения из искаженного сообщения при помощи некоторого оператора. При этом может потребоваться восстановление посланного сообщения либо в первоначальном виде, либо с данным упреждением, либо с данным запаздыванием. Выбор оптимального оператора и прибора, его реализующего, определяется статистическими свойствами сообщения и шума, рассматриваемых по отдельности и совместно. Так, в проектировании волновых фильтров мы заменили старые методы, носившие эмпирический и довольно-таки случайный характер, методами, допускающими четкое научное обоснование.
Но тем самым мы сделали из проектирования систем связи статистическую науку, раздел статистической механики. И действительно, понятия статистической механики вторгаются во все отрасли науки уже более ста лет. Мы увидим далее, что эта преобладающая роль статистической механики в современной физике имеет самое существенное значение для понимания природы времени. В случае же техники связи значение статистического элемента непосредственно очевидно. Передача информации возможна лишь как передача альтернатив. Если нужно передавать одну-единственную возможность, то лучше всего, легче всего это сделать тем, что не посылать вообще никакого сообщения. Телефон и телеграф могут выполнять свои функции только в том случае, когда передаваемые ими сообщения беспрерывно изменяются, причем эти изменения не определяются полностью прошлой частью сообщений. С другой стороны, эффективное проектирование телефона и телеграфа возможно только при том условии, что изменения передаваемых сообщений подчиняются каким-нибудь статистическим закономерностям.
Чтобы подойти к технике связи с этой стороны, нам пришлось разработать статистическую теорию количества информации. В этой теории за единицу количества информации принимается количество информации, передаваемое при одном выборе между равновероятными альтернативами. Такая мысль возникла почти одновременно у нескольких авторов, в том числе у статистика Р.А. Фишера, у д-ра Шеннона из Белловских телефонных лабораторий и у автора настоящей книги. При этом Фишер исходил из классической статистической теории, Шеннон — из проблемы кодирования информации, автор настоящей книги — из проблемы сообщения и шумов в электрических фильтрах. Следует, однако, отметить, что некоторые мои изыскания в этом направлении связаны с более ранней работой Колмогорова[214] в России, хотя значительная часть моей работы была сделана до того, как я обратился к трудам русской школы.
Понятие количества информации совершенно естественно связывается с классическим понятием статистической механики — понятием энтропии. Как количество информации в системе есть мера организованности системы, точно так же энтропия системы есть мера дезорганизованности системы; одно равно другому, взятому с обратным знаком. Эта точка зрения приводит нас к ряду рассуждений относительно второго закона термодинамики и к изучению возможности так называемых «демонов» Максвелла. Вопросы такого рода возникают совершенно независимо при изучении энзимов и других катализаторов, и их рассмотрение существенно для правильного понимания таких основных свойств живой материи, как обмен веществ и размножение. Третье фундаментальное свойство жизни — свойство раздражимости — относится к области теории связи и попадает в группу идей, которые мы только что разбирали[215].
Таким образом, четыре года назад группа ученых, объединившихся вокруг д-ра Розенблюта и меня, уже понимала принципиальное единство ряда задач, в центре которых находились вопросы связи, управления и статистической механики, и притом как в машине, так и в живой ткани. Но наша работа затруднялась отсутствием единства в литературе, где эти задачи трактовались, и отсутствием общей терминологии или хотя бы единого названия для этой области. После продолжительного обсуждения мы пришли к выводу, что вся существующая терминология так или иначе слишком однобока и не может способствовать в надлежащей степени развитию этой области. По примеру других ученых нам пришлось придумать хотя бы одно искусственное неогреческое выражение для устранения пробела. Было решено назвать всю теорию управления и связи в машинах и живых организмах кибернетикой, от греческого κυβερνήτησ — «кормчий»[216]. Выбирая этот термин, мы тем самым признавали, что первой значительной работой по механизмам с обратной связью была статья о регуляторах, опубликованная Кларком Максвеллом в 1868 г.[217], и что слово «governor», которым Максвелл обозначал регулятор, происходит от латинского искажения слова «κυβερνήτησ». Мы хотели также отметить, что судовые рулевые машины были действительно одним из самых первых хорошо разработанных устройств с обратной связью[218].
Несмотря на то что термин «кибернетика» появился только летом 1947 г., мы сочли удобным использовать его в ссылках, относящихся к более ранним периодам развития этой области науки. Приблизительно с 1942 г. развитие кибернетики происходило по нескольким направлениям. Сначала идеи совместной статьи Бигелоу, Розенблюта и Винера были изложены д-ром Розенблютом на совещании, проведенном фондом Джосайи Мейси в Нью-Йорке в 1942 г. Совещание было посвящено проблемам центрального торможения в нервной системе. На совещании присутствовал д-р Уоррен Мак-Каллох из Медицинской школы Иллинойсского университета, уже давно поддерживавший связь с д-ром Розенблютом и со мною и интересовавшийся изучением организации коры головного мозга.
Примерно в это же время на сцену выступает фактор, который неоднократно появляется в истории кибернетики, — влияние математической логики. Если бы мне пришлось выбирать в анналах истории наук святого — покровителя кибернетики, то я выбрал бы Лейбница. Философия Лейбница концентрируется вокруг двух основных идей, тесно связанных между собой: идеи универсальной символики и идеи логического исчисления.