Тем не менее все идеи по этому поводу, которые мне казались действительно глубокими, появились в заметке Колмогорова до того, как я опубликовал свою статью, хотя я и узнал об этом только через некоторое время. Работы Колмогорова и таких его учеников, как Крейн[131], продолжали появляться в «Докладах» Академии наук СССР, и хотя эти статьи в основном базировались на представлениях о теории прогнозирования, которые были развиты Колмогоровым в его первой статье и были несколько уже моих концепций, у меня нет никакой уверенности в том, что Колмогоров самостоятельно не нашел также и известных мне возможностей применения этих методов. Если дело обстояло именно так, ему, наверное, просто не удалось опубликовать свои результаты в открытой печати ввиду того, что они имели военное значение. Недавняя статья Крейна, в которой он прямо ссылается на мои прикладные работы, еще более убеждает меня в этом.
Я никогда не встречался с Колмогоровым, никогда не был в России и никогда не переписывался ни с ним, ни с кем-нибудь из его учеников[132]. Все, что я говорю о нем, в значительной степени основано на догадках. Когда я только еще начинал работать для Военного министерства США и ничего не знал о статье Колмогорова, возник вопрос, не интересуется ли кто-нибудь за границей теми же проблемами, что и я. Я говорил тогда, что немецкие ученые вряд ли подготовлены к работе в этой области, что мои друзья Крамер в Швеции и Леви во Франции вполне могли бы увлечься теми же идеями, но что если кто-нибудь в мире занимается сейчас тем же, что и я, то, вероятнее всего, это Колмогоров в России. Я сказал это, исходя из того, что за последние двадцать-тридцать лет почти ни разу ни один из нас не опубликовал какой-нибудь работы без того, чтобы очень скоро не появилась тесно связанная с ней работа другого на ту же тему.
Года два-три тому назад мне попалась русская книга по теории связи, прогнозирования и другим тесно связанным вопросам, в которой приводилось множество ссылок на мои работы и работы Колмогорова. В этой книге приоритет признавался за Колмогоровым, и хотя это справедливо лишь отчасти, все же, как я уже говорил, вполне можно утверждать, что Колмогоров не только независимо разобрал все основные вопросы в этой области, но и был первым, опубликовавшим свои результаты. Мои собственные работы рассматриваются в русской книге очень обстоятельно, и их оценка является гораздо более объективной, чем та, на которую можно было бы рассчитывать при нынешних отношениях между нашими странами.
«Желтая опасность» по-прежнему играет важную роль в современной исследовательской жизни Америки как в военных, так и в открытых исследованиях. С разрешения правительства она была переиздана; экземпляр этой книги, должно быть, попал в Россию, что и послужило основанием для тех замечаний, о которых я только что говорил.
С определенной точки зрения мою работу, или, точнее, работу нашей группы, можно считать охватывающей очень широкую область теории и практики связи. Прежде всего «Желтая опасность», без сомнения, представляет собой статистическое исследование вопросов теории связи. В то время, когда книга писалась, почти никто не рассматривал теорию связи с этой точки зрения. Поэтому я думаю, что мне можно извинить некоторую гордость, которую я испытываю сегодня в связи с тем, что статистический подход к вопросам теории связи получил повсеместное распространение.
Я подошел к теории информации с позиций изучения электрических систем, проводящих непрерывный ток или что-нибудь такое, что по крайней мере можно интерпретировать как непрерывный ток. В то же время Клод Шеннон из лаборатории телефонной компании Белла параллельно разрабатывал близкую и во многом эквивалентную теорию с точки зрения теории электрических переключательных схем. Эта работа представляла собой непосредственное развитие его предыдущих работ, посвященных использованию алгебры логики для решения задач теории релейных схем.
Как я уже говорил выше, Шеннон любит дискретное и сторонится непрерывного. Он рассматривает дискретные сообщения как последовательность во времени утвердительных и отрицательных ответов, и каждый выбор между «да» или «нет» считает элементом информации. В то же время я, занимаясь теорией непрерывной фильтрации и исходя из точек зрения, казавшихся вначале совершенно отличными от точки зрения Шеннона, пришел к весьма близкому определению единицы количества информации.
Введя определение понятия количества информации по Шеннону-Винеру (ибо оно в равной мере принадлежит нам обоим), мы совершили радикальный переворот в этой области. В течение многих лет предполагалось, что пропускная способность линии связи за единицу времени определяется шириной полосы частот, используемой этой линией.
Считалось, что по линии с шириной полосы частот в 200 Гц можно передать за одно и то же время в два раза больше информации, чем по линии с полосой пропускания в 100 Гц. При этом игнорировался тот факт, что при передаче в отсутствие шумов любая полоса частот окажется достаточной для того, чтобы можно было передать любую информацию за одну секунду. Одно значение мгновенного напряжения, измеренное с точностью до одной десятитриллионной, могло бы передать всю информацию, содержащуюся в Британской энциклопедии, если бы только шумы в наших цепях не ограничивали возможную точность измерения пределами порядка одной десятитысячной.
Первое время после изобретения телефона лишь очень немногие линии были загружены до предела пропускной способности. Однако с развитием телефонии и появлением новых способов связи, таких, как радио и телевидение, возникла необходимость в более полном использовании имеющихся возможностей передачи сообщений. Стало ясно, что уровень шумов в линиях или воздушном канале связи является еще одним важным фактором, требующим пристального внимания. Весь эфир заполнен возмущениями, которые радисты называют атмосферными помехами, и ни один проводник, будь он металлическим или газовым, не может переносить электричество порциями, меньшими чем заряд одного электрона. Пульсации, связанные с нерегулярностью потока электронов, получили название дробового эффекта, и их учет играет важную роль при проектировании современных систем связи.
Лишь совсем незадолго до второй мировой войны нагрузка линий связи возросла настолько, что неизбежные шумы стали серьезным препятствием на пути еще большего повышения их загруженности. При этом статистический подход к теории связи, который я в какой-то мере предугадал в своих старых работах по обобщенному гармоническому анализу и которому мы вместе с Шенноном придали столь большое значение в наших работах периода начала войны, вскоре после войны стал основным методом исследования в подавляющем большинстве работ.
Наша работа, посвященная теории обратной связи в приложении к системам управления зенитным огнем и нервной системе человека, привела к еще одному перевороту, который, как и первый, получил повсеместное признание за последние несколько лет. Когда я впервые начал работать в МТИ, электротехника делилась на два основных раздела, которые в Германии назывались электротехникой слабых и электротехникой сильных токов, а в Соединенных Штатах — электроэнергетикой и электросвязью.
Между этими двумя областями действительно существует принципиальное различие, но его сущность и точное положение границы раздела в течение длительного времени оставались неясными. Генераторы телевизионной станции или радиостанции, ведущей трансатлантические передачи, могут вырабатывать относительно большие мощности; в то же время слабенький двигатель в бормашине у зубного врача потребляет лишь малые доли лошадиной силы. Тем не менее в первом случае электричество явно используется прежде всего для обеспечения связи, а во втором служит лишь источником энергии.
В эпоху, когда истинная природа различия между двумя разделами электротехники еще не была полностью понятна, естественно, считалось, что следящие системы, управляющие движением орудийной башни, как и все другие части мощных и громоздких устройств, должны относиться к области электроэнергетики, а не электросвязи. Существенно отметить при этом, что в электроэнергетике сложилась определенная традиция рассматривать все электрические токи и напряжения как величины, непрерывно меняющиеся во времени, в то время как в теории связи, в первую очередь под влиянием работ Хевисайда, принято было рассматривать сигналы как суммы большого или даже бесконечного числа гармонических колебаний различных частот. В то время было совсем не легко понять, что в теории следящих систем и автоматического регулирования, так же как, например, в телефонии или телевидении, наиболее удобным является именно частотный подход к задачам, а не подход, исходящий из представления всех процессов в виде явных функций времени.
Мне кажется, что я могу гордиться тем, что впервые отчетливо это понял и отнес теорию следящих систем к области теории связи. Исходя из своих общих идей, я рассматривал автоматические вычислительные машины также как одну из форм систем связи, поскольку основное внимание здесь уделяется передаче сигналов, а не мощностей. С моей точки зрения, такие системы представляют собой просто последовательность переключающих устройств, соединенных между собой таким образом, что информация, содержащаяся в сигнале на выходе каких-то из них, используется в последующих устройствах в качестве входного сигнала и сигнала управления.
Ясно, что такие переключающие устройства могли реализоваться и в форме зубчатых колес или других подобных механизмов, и в форме механических или электрических реле, использующих электронные лампы или другие средства электроники. Как я уже говорил, мне казалось, что наиболее удобными будут переключающие устройства, которые осуществляют выбор между двумя, а не десятью возможностями, и я попытался популяризировать эти идеи среди широких кругов инженеров.
Вскоре я познакомился с первой из новых цифровых машин, построенных на реле. Она находилась в Гарвардском университете. Работы по созданию этой машины велись по правительственному заданию, и руководил ими Говард Эйкен. Его успехи произвели на меня большое впечатление и вызвали чувство глубокого восхищения. Эйкен рассматривал свою машину как современный вариант тех весьма примитивных вычислительных машин, которые около ста лет тому назад разрабатывал Бэббиж в Англии. В свое время Бэббидж прекрасно разобрался в математических возможностях вычислительных машин, но совершенно не понял возникающих при этом чисто технических задач.