В августе 1940 года Специальный отдел «А» преобразован в 5-й отдел, начальником оставлен Мамсуров. Вскоре он продолжил свое военное образование на Курсах усовершенствования высшего начсостава при Военной академии им. М. В. Фрунзе, которые закончил за месяц до войны.
А 14 июня 1941-го последовало новое назначение — начальником Разведотдела Закавказского военного округа, но нападение Германии на Советский Союз изменило планы начальства, Мамсурова оставили в центральном аппарате. Правда, не надолго.
24 июня 1941 года полковник Мамсуров откомандирован в распоряжение маршала К. Е. Ворошилова для выполнения особо важных поручений на Западном фронте. Речь шла о восстановлении связи с отступающими войсками, приведении их в порядок, организации оборонительных работ. В июле Хаджи-Умар Джиорович руководил на Западном и Северо-Западном фронтах подготовкой и переброской в тыл противника людей, которые должны были стать организаторами партизанских и диверсионных отрядов, налаживал разведку на Северо-Западном и Ленинградском фронтах.
После прорыва немцев в августе в районе Чудова Мамсурова назначили командиром 311-й стрелковой дивизии. 24 августа в бою под Чудовом он был ранен в обе ноги и руки. После лечения в ленинградском госпитале в октябре — декабре он начальник разведотдела Московского фронта, который просуществовал менее месяца, а затем командует Особой оперативной группой Разведупра Генштаба Красной Армии.
Мамсуров просится на фронт, и в январе 1942 года его назначают командиром 114-й кавалерийской дивизии, а в мае — заместителем командира 7-го кавалерийского корпуса на Брянском фронте.
В августе 1942 — январе 1943 года полковник Мамсуров продолжает начатое в первый период войны дело организации партизанского движения и подготовки для него кадров. Для руководства партизанской борьбой на Северном Кавказе и в Крыму, постановлением Государственного Комитета Обороны от 3 августа 1942 года, при Военном Совете Северо-Кавказского фронта создается Южный штаб партизанского движения. Начальником его ГКО назначает Хаджи-Умара Джиоровича. В состав штаба вошли секретарь Краснодарского крайкома партии П. И. Селезнёв и секретарь Крымского обкома партии В. С. Булатов. При штабе создается партизанская школа, в которой готовили кадры с учетом опыта гражданской войны в Испании, к преподавательской работе привлечены и испанские боевики.
После трех месяцев работы в ЮШПД Мамсуров отозван в Москву на должность помощника начальника Центрального штаба партизанского движения и начальника разведки штаба. «Бог диверсий» Илья Старинов, воевавший вместе с Хаджи-Умаром в Испании и встретившийся с ним в этом штабе писал: «На Мамсурове лежала огромная ответственность за правильность сведений о противнике, исходящих от ЦШПД. Сведения от партизан — пусть отрывочные и нерегулярные — поступали, но любые разведывательные сведения требуют перепроверки и подтверждений, причем своевременных. Получить же проверенные, подтержденные данные при тогдашнем состоянии связи было крайне трудно» (Старинов И. Записки диверсанта. М., 1997. С.322.).
Недолго прослужил Мамсуров и в ГРУ, где находился на посту заместителя начальника 2 управления, уже в марте 1943-го он снова по личной просьбе отправлен на фронт и назначен на Юго-Западный фронт, командиром 2-й гвардейской Крымской кавалерийской дивизии, которой командовал до августа 1946-го.
В начале октября 1943 года в составе 1-го Украинского фронта Мамсуров со своей дивизией форсировал Днепр севернее Киева. Прорвав оборону немцев, дивизия захватила и расширила плацдарм для войск 60-й армии, затем, в составе 1-го конно-гвардейского
корпуса участвовала в боях за освобождение Киева. Прорвав оборону гитлеровцев, севернее Киева на реке Ирпень, и перерезав шоссе, дивизия Мамсурова отрезала немецкой группировке пути отхода из города. Продолжая стремительное наступление, в ходе которого она успешно уничтожала подходившие резервы противника, 11 ноября 1943 года заняла город Коростышев, а 12 ноября — Житомир.
В течение шести дней 2-я гвардейская Крымская кавдивизия, которая, несмотря на свое название, была вооружёна танками и артиллерией, удерживала Житомир, уничтожив при этом более 150 танков и свыше 3 тысяч гитлеровских солдат и офицеров. Все же город пришлось оставить, но свою роль эта шестидневная оборона сыграла: измотанный враг уже не сумел прорвать оборону Красной Армии под Киевом. А за это время, получив пополнение, войска 1-го Украинского фронта перешли в наступление и вернули захваченную немцами территорию, сорвав наступление гитлеровцев в Фастовско-Киевском направлении. За отличное руководство боевыми действиями дивизии Хаджи-Умар Мамсуров был награждён орденом Суворова 2-й степени и произведён в октябре 1943-го в генерал-майоры.
В конце января 1944 года в наступлении на Ковель дивизия Мамсурова с боем форсировала реку Стырь, однако получила новую задачу и повернула на юг. Прорвав фронт немцев, дивизия соединилась с партизанскими отрядами Украины и оказалась в глубоком немецком тылу. Там кавалеристы прошли рейдом по занятым врагом населённым пунктам, уничтожая его слабые гарнизоны.
Разгромив 19-ю пехотную венгерскую дивизию и 143-ю пехотную немецкую дивизию, 1 февраля 1944 года кавалеристы Мамсурова заняли город Луцк. Подойдя к городу Дубно, они изрядно потрепали группировки немцев, отходившие на Ровно. 15 марта дивизия прорвала оборону противника на реке Иква и, ударив в тыл Дубненской группировки врага, обеспечила успешное наступление наших войск с фронта. 19 марта генерал-майор Мамсуров был ранен в лицо, но остался в строю.
В Львовско-Сандомирской операции 1-го Украинского фронта его дивизия выполняла отдельную задачу — не допустить отхода Бродской группировки немцев на запад через реку Западный Буг. 2-я гвардейская кавдивизия овладела городом Каменка-Струмилово и вынудила немцев принять бой в невыгодных для них условиях. Несмотря на большую ширину фронта — 70 км , кавалеристы не пропустили ни одного отступающего. В результате этой операции на поле боя осталось более 8 тысяч трупов вражеских солдат и офицеров, в том числе 2 генерала. Кавалеристы также захватили более 2 тысяч пленных, 35 танков, свыше 500 орудий и миномётов, 3 тысячи автоматов и 6 тысяч лошадей, что было для кавдивизии далеко не лишним. Дивизия в результате боя потеряла около 1200 человек.
В сентябре 1944 года, прорвав оборону противника, дивизия Мамсурова снова вышла в тылы противника и успешно воевала на территории Чехословакии. Затем, в составе 1-го Украинского фронта, прорвала оборону гитлеровцев на реке Нейсе и, заняв ряд городов, вышла юго-западнее Берлина.
В апреле 1945 года 2-я гвардейская кавдивизия форсировала реку Эльбу. В боях на ее западном берегу было уничтожено 1230 солдат и офицеров противника, 3 тяжёлых танка, 11 бронетранспортёров. Взято в плен 574 солдата и офицера, захвачено 8 паровозов, 250 вагонов, 117 складов с вооружением, боеприпасами и военным имуществом, 40 тракторов и тягачей, 480 автомашин, 5700 лошадей, 350 повозок. Из двух концлагерей освободила 15600 человек.
29 мая 1945 года Хаджи-Умар Мамсуров был удостоен звания Героя Советского Союза. Тогда же Военным Советом 1-го Украинского фронта он был назначен командиром батальона сводного полка фронта, с которым 24 июня 1945 года участвовал на параде Победы.
Летом и осенью 1945-го в составе 38-й армии дивизия Хаджи-Умар Джиоровича воевала на Западной Украине против националистического подполья. С января 1946 года дивизия дислоцировалась в районе г. Чкалов, а в августе была расформирована.
С октября 1946, по март 1947 года Мамсуров командовал 3-й Отдельной Евпаторийской стрелковой бригадой в г. Брянске и с этой должности был командирован в Москву на Высшие академические курсы Высшей военной академии им. К. Е. Ворошилова.
По окончании в 1948 году Военной академии Генерального штаба Мамсуров служил в Прикарпатском военном округе. Командовал 27-й механизированной дивизией 38-й армии, 27-м стрелковым корпусом 13-й армии, и в 1955 — 1957 годах 38-й армией . Фронтовой опыт пригодился Хаджи-Умар Джиоровичу и 4 ноября 1956 года, в Венгрии. Тогда подразделения под его руководством без особых потерь навели порядок в городках Дебренце, Мишкольце и Дьере. Через неделю сопротивление повстанцев Имре Надя было подавлено. Многие участники операции «Вихрь» получили правительственные награды, а Хаджи-Умар Джиорович Мамсуров назначен заместителем начальника ГРУ — генерала армии Сергея Матвеевича Штеменко.
И вскоре разразился колоссальный скандал, в котором помимо своей воли оказался замешанным и генерал Мамсуров. Речь шла не больше не меньше о подготовке министром обороны Жуковым… «государственного переворота! «
Вот что рассказывает об этой истории со слов самого Мамсурова хорошо знавший его разведчик Михаил Мильштейн: «Незадолго до поездки в Югославию Г. К. Жуков вызвал его к себе и поделился с ним своим решением о формировании бригад специального назначения, исходя из возможного характера будущих военных действий в том регионе. Эти бригады должны были быть сравнительно небольшими (до двух тысяч человек), вооружёнными самым совершенным и мощным лёгким оружием. Предполагалось собрать в единый кулак отборный, физически сильный личный состав, обученный приёмам ведения ближнего боя, карате, десантированию с воздуха и пользованию современными взрывчатыми веществами. Формирование этих бригад Георгий Константинович возложил на Мамсурова. У Хаджи-Умара Джиоровича Мамсурова был друг, которого он знал много лет, — генерал Туманян[6]. В то время он занимал должность заместителя начальника бронетанковой академии по политической части. Туманян приходился родственником А. И. Микояну. Будучи женатыми на сёстрах, они часто встречались и относились друг к другу по-дружески. Мамсуров рассказал о встрече с Жуковым и его указаниях Туманяну, тот, в свою очередь, решил доложить об услышанном Анастасу Ивановичу. Микоян, в то время первый заместитель председателя Совета Министров СССР, воспринял рассказ Туманяна очень серьёзно. Первый вопрос, который он ему задал, звучал примерно так: «А могут ли эти бригады быть выброшены с воздуха на Кремль» Туманян ответил утвердительно. Услышав это, Анастас Иванович поспешил на доклад к Никите Сергеевичу Хрущёву. В воспалённом воображении Микояна, воспитанного на теориях «заговоров», по-видимому, сразу родилась мысль о намерении Жукова подготовить военный переворот с помощью бригад специального назначения» (Мильштейн М. А. Сквозь годы войн и нищеты. М., 2000. С.122-123.).