Получив результаты в топологической алгебре и изучив хорошо эту область, включая группы Ли, я пришёл к мысли написать монографию под названием «Непрерывные группы»[63], что и выполнил за два года. В монографию я включил не только свои собственные результаты по топологическим группам и по топологическим телам, но и теорию групп Ли. Книга скоро нашла широкое признание как в Советском Союзе, так и за границей — она была очень быстро переведена на английский язык в Америке по инициативе Лефшеца[64].
Занимаясь теоремой двойственности Александера, я заинтересовался её локальной формой, связанной с теорией размерности. Существовавшее в то время определение размерности компактного метрического пространства F носило чисто негативный характер. Оно выглядит следующим образом:
Если существует покрытие множества F некоторыми множествами, удовлетворяющее определённым условиям, то размерность этого множества не больше чем r. Таким образом, можно было эффективно установить, что размерность множества не превосходит r, но не было никакого средства установить, что она не меньше r. В дальнейшем так определённую размерность я буду называть обычной. П. С. Александров сделал первую попытку преодолеть это обстоятельство, дав положительное определение размерности при помощи гомологий. Именно, он определил размерность множества F по mod 2. Это определение размерности требовало существования в множестве F некоторой плёнки по mod 2, т. е. носило положительный характер. Александров выдвинул гипотезу, что обычная размерность эквивалентна гомологической размерности по mod 2. Я сразу увидел, что таким образом, как по mod 2, размерность можно определить по любому другому модулю. И сразу же построил множества F1 и F2, каждое из которых имело обычную размерность, равную 2[65]. F1 имело размерность 2 по mod 2 и размерность 1 по mod 3, а множество F2 имело размерность 2 по mod 3 и 1 по mod 2. Таким образом, полностью исключалась эквивалентность обычной размерности с гомологической по какому бы то ни было модулю. Эти же два множества F1 и F2, как я показал, обладали тем замечательным свойством, что, имея оба обычную размерность, равную 2, они в своем произведении давали множество F1×F2 размерности 3, что противоречило существовавшей гипотезе о том, что при перемножении множеств обычные размерности складываются.
Александров и я, оба независимо друг от друга, занялись проблемой гомологической характеризации обычной размерности, т. е. нахождения для неё положительной формы. Но мы подходили к задаче с двух различных позиций. Александров искал внутреннее гомологическое определение размерности, эквивалентное обычной, а я пользовался расположением множества F в евклидовом пространстве Rn. Моя гипотеза заключалась в том, что множество F обычной размерности r, расположенное в Rn, в некоторой своей точке a образует гомологическое препятствие размерности n — r–1. Именно, я стремился доказать, что в шаре H произвольного малого радиуса с центром в точке a можно найти цикл z размерности n — r–1 с целочисленными коэффициентами, расположенный в H\F и негомологичный нулю в этом пространстве. Из этой теоремы, если бы она была доказана, сразу можно было бы извлечь и внутреннюю гомологическую характеристику обычной размерности. Я стал пытаться доказать это предложение.
Для двумерного множества F, расположенного в пространстве R3, оно довольно быстро было доказано мной и Франклем независимо друг от друга при помощи одной интересной конструкции, относящейся к узлам, расположенным в трёхмерном пространстве. Доказанное нами предложение означало, что двумерное множество в трёхмерном евклидовом пространстве локально разбивает это пространство по крайней мере на две части. Следующим шагом должно было быть доказательство того, что (n–1) — мерное множество F, расположенное в n-мерном евклидовом пространстве Rn, локально разбивает его также по крайней мере на две части. Эту теорему очень остроумно доказал Франкль. Я стал пытаться доказать теорему о препятствии для любой размерности r, идя по пути, намеченному мной и Франклем, и при этом столкнулся с некоторыми гомотопическими проблемами, которые стали предметом моих дальнейших занятий. Теорему о препятствии я доказать не сумел. Внутреннюю гомологическую характеристику обычной размерности получил П. С. Александров, и из неё следовало моё предложение о препятствии.
По теории размерности мной была сделана ещё одна работа, заслуживающая упоминания, не связанная непосредственно с гомологическими проблемами. Я доказал, что каждое компактное метрическое пространство обычной размерности r может быть гомеоморфно отображено в евклидово пространство размерности 2r+1[66].
Найти число Бетти конкретного многообразия при помощи триангуляции, т. е. при помощи разбиения многообразия на симплексы, является делом совершенно нереальным в силу чудовищной громоздкости. Для решения этой задачи нужно искать другие пути, связанные со способом задания многообразий. Одну такую интересную задачу я решил в 1935 г.[67]. Она была сформулирована Картаном в его докладе в Москве (1934 г.). Он предложил найти числа Бетти всех простых компактных групп Ли и предложил для решения свой алгебраический метод внешних форм. Простые группы Ли расклассифицированы, они составляют четыре основных серии и, кроме того, пять специальных особых групп. Я нашёл числа Бетти компактных групп Ли, входящих в четыре основные серии, пользуясь совсем другим методом, чем тот, который был предложен Картаном. Способ этот связан со следующей конструкцией Морса.
На некотором гладком многообразии M Морс рассматривает дифференцируемую функцию f (x) точки x этого многообразия. Точка a многообразия M называется критической точкой функции f (x), если в этой точке все первые производные функции f (x) обращаются в нуль. Изучению критических точек посвящена работа Морса. Морс рассматривает поверхности уровня функции f (x), т. е. поверхности, определяемые уравнением f (x) = c, где с = const. Проводит на многообразии M траектории, ортогональные к поверхностям уровня. Вдоль этих траекторий можно продеформировать в многообразии M любое подмножество F. При этом только критические точки могут служить препятствием для деформации. Морс рассматривал только такие функции, которые имеют изолированные критические точки.
Моей целью было найти числа Бетти основных четырёх серий компактных групп Ли. Приём мой был приспособлен к изучению серии многообразий Ml, где l — номер многообразия, меняющийся от некоторой постоянной положительной величины до бесконечности. На многообразии Ml, я задал функцию f (x) множества критических точек, которое составляло массивное подмножество многообразия Ml, причём одним из кусков этого массива было многообразие Ml–1. Опишу свой приём для случая, когда Ml есть группа ортогональных матриц порядка l,
x = ||xij ||; i, j = 1…, l.
Функция f (x), заданная мной на Ml, в этом случае создаётся формулой
f (x) = x11.
Массив критических точек этой функции состоит из двух кусков: на одном x11 = f (x) = 1, на другом x11 = f (x) = –1. Первый кусок представляет собой группу Ml–1 ортогональных матриц порядка l–1, а второй является классом смежности этой подгруппы. Обозначим эти куски массива критических точек через M′l–1 и M″l–1. Будем считать, что траектории, ортогональные к поверхностям уровней функции f (x), начинаются на подгруппе M′l–1 и упираются в многообразие M″l–1. Любое компактное подмножество F многообразия Ml, не пересекающееся с M′l–1, можно деформировать вдоль этих траекторий в многообразие M″l–1. Так открывается путь для нахождения чисел Бетти индуктивно по номеру l, начиная с многообразия M3, представляющего собой трёхмерное проективное пространство. Аналогичным образом были изучены и три другие серии компактных групп Ли.
Позже я применил этот приём к многообразию H(k, l), причём многообразие H(k, l) представляет собой совокупность всех k-мерных ориентированных плоскостей евклидова пространства Rk+l размерности k+l, проходящих через некоторую фиксированную точку О. Меняя индекс l, мы получаем серию многообразий, гомологии в которых можно изучать индуктивно. Многообразие H(k, 1) представляет собой, как легко видеть, k-мерную сферу. Мы имеем естественное вложение H(k, l–1) Ì H(k, l). Многообразие H(k, l) было положено мной в основу определения характеристических классов, или так называемых классов Понтрягина, для гладкого многообразия