На самом крайнем левом фланге политического спектра, как и было положено, находились ушедшие в глубочайшее подполье отдельные организации КПГ. Наиболее значительным коммунистическое подполье было в Берлине, Саксонии и Тюрингии. В столице Германии действовала группа Зефкова — Якоба — Бестлейна, объединившая в своих рядах многих старых коммунистов, выпущенных нацистами из концлагерей после заключения пакта с Советским Союзом. В эту же группу вливались и члены уцелевших коммунистических организаций из других городских центров. Во главе группы стояла «тройка» в составе организационного, политического и военного руководителей. Первоначально ими были Антон Зефков («Курт»), Франц Якоб («Мартин») и Фриц Эмрих («Эрвин»). Напуганный арестами 1943 года, когда была ликвидирована засланная в Германию из Швеции группа руководящих деятелей компартии, прибывших в страну для восстановления ЦК и внутреннего руководства, Эмрих, бывший депутат рейхстага и один из руководителей Красного Профинтерна, отошел от партийной работы. Его сменил бежавший из гамбургской тюрьмы в январе 1944 года Бернард Бестлейн («Лотар»).
Пик наибольшей активности берлинской группы падает на 1943―1944 годы. На промышленных предприятиях коммунистами были созданы многочисленные ячейки, издавались антифашистские листовки. О размахе ее деятельности свидетельствует тот факт, что в 1944 году помимо группы Зефкова, Якоба и Бестлейна в руки гестапо попало еще 400 членов их группы. В Тюрингии коммунистические ячейки возглавляли Магнус Позер и Теодор Нейбауэр, а в Саксонии — Георг Шуман. Руководитель саксонских коммунистов Шуман вел даже переговоры с Герделером, но они не привели ни к какому результату.
Накануне неудавшегося покушения Штауффенберга большая часть берлинского коммунистического подполья была арестована. Предателем оказался Эрнст Рамбов («Герман»), в прошлом руководитель военного аппарата КПГ округа Вассерканте. Перед судом предстало более 200 обвиняемых. 65 из них были приговорены к смертной казни.
Единственной гражданской оппозиционной силой в СССР, которая занималась конкретной деятельностью, а не одной болтовней и обсуждением грядущих «великих планов», были троцкисты. С ними и сравним германских «красных».
…Военное крыло заговора также состояло из нескольких групп.
В первую очередь необходимо выделить группу старых генералов в отставке, крайне негативно воспринимавших политику Гитлера с самого начала, еще до развязывания им войны. Самыми видными представителями этого круга были неоднократно упоминавшиеся выше генерал-полковники Людвиг Бек и Хаммерштейн-Экворд. Однако тот факт, что оба они были в отставке и под их началом не было никакой реальной военной силы, вкупе с преклонным возрастом (Хаммерштейн-Экворд умер в 1943 году, Бек в 40-х годах тяжело болел), автоматически отстранял их от роли главных военных путчистов. Все, что они могли реально делать в рассматриваемый период, — так это составлять планы переворота да влиять своим немалым авторитетом на других офицеров. В эту же группу можно зачислить и связанных с Беком генералов старшего поколения, отправленных в отставку уже во время второй мировой войны или еще продолжавших служить. К их числу относятся генерал-фельдмаршал Эрвин фон Вицлебен, генерал-полковники Вильгельм Адам и Эрих Гёпнер, генерал Карл Генрих Штюльпнагель и другие. Как уже отмечалось выше, из всех гражданских деятелей фон Бек теснее всего был связан с Герделером.
Вторая группа заговорщиков возникла в германской военной разведке — абвере и условно может быть названа группой Канариса — Остера. Отлично осведомленный начальник разведки отдавал себе отчет в том, к какому конечному результату могут привести планы фюрера. Уже в середине августа 1939 года, когда стало ясно, что Гитлер развяжет новую мировую войну, Канарис заявил своему ближайшему окружению: «Это будет концом Германии». Соответственно, оказывая услуги противникам своей страны, адмирал страховал себя на будущее. Но адмиралу не помогла ни его услужливость, ни осторожность, с которой он уклонялся от всех действий заговорщиков, предоставив полную свободу рук своему помощнику Остеру. Подвела его традиционная немецкая аккуратность: Канарис вел дневник, в котором скрупулезно и тщательно записывал каждую услугу, оказанную иностранным разведкам или оппозиции внутри Германии. Это его и погубило. Когда после раскрытия заговора 1944 года дневник шефа абвера попал в руки следствия, он автоматически предопределил судьбу своего автора: Канариса арестовали, пытали и казнили. Должно быть, немало повеселился Сталин, еще в 1937 году заявивший, что наши заговорщики — опытные конспираторы и документов после себя не оставляют.
Остеру помогали, особенно в его контактах с Западом, такие сотрудники абвера, как Гизевиус, Донаньи, Мюллер, Бусше, Дельбрюк, Бонхоффер, Кип, и другие. Очевидно, чувствуя неладное (сигналов было более чем достаточно), Гитлер издал 18 февраля 1944 года указ об объединении разведывательной службы и подчинении ее Гиммлеру. Канарис был уволен в отставку, а военная разведка сведена к небольшому отделу в главном командовании вермахта. Новый шеф разведки полковник Георг Хансен также являлся заговорщиком, однако возможности его после реорганизации были весьма ограничены. Весьма показательно, что в июне 1944 года, уже после указа об объединении, между Гиммлером и Канарисом состоялась откровенная беседа, во время которой первый сказал, что хорошо информирован о заговорщицкой деятельности абвера и, когда придет время, примет необходимые меры. (Кстати, во время «большой чистки» наш Разведупр, равно как и НКВД, пострадал очень сильно.)
В органах государственной безопасности Германии оппозиция была представлена Артуром Небе, членом НСДАП и СС с 1931 года, ставшим в 1937 году начальником всей криминальной полиции Германии (5-е управление РСХА). Венцом его карьеры стало полученное в 1941 году звание генерал-лейтенанта полиции и группенфюрера СС. В этом качестве он осуществлял программу ликвидации берлинских цыган и был начальником «айнзацгруппы „Б“», творившей неслыханные зверства на территории Советского Союза. Будучи беспринципным карьеристом, Небе решил подстраховать себя и вошел в контакт с оппозицией, много сделав для ее осведомления и предупреждения. Он (вероятно, не без ведома Гиммлера) покрывал все попадавшие в РСХА концы генеральского заговора. Другим видным нацистом, который также снабжал заговорщиков столь необходимой им информацией о том, что стало известно о заговоре властям, являлся полицай-президент Берлина старый нацист и эсэсовец граф Вольф Генрих фон Гельдорф.
Непосредственно в самой армии сложилось четыре группы заговорщиков. Объединяло их всех то, что состояли они из офицеров младшего поколения, вставших в оппозицию к Гитлеру лишь после начала войны, во многом благодаря поражениям на Восточном фронте. Первая группа образовалась на советско-германском фронте в штабе главнокомандующего группой армий «Центр», где в битве под Москвой вермахт впервые за всю войну потерпел тяжелое положение. Главой ее стал офицер генерального штаба полковник Хеннинг фон Тресков, ставший впоследствии генерал-майором, его ближайшим помощником — подполковник Фабиан фон Шлабрендорф, а в саму группу входили адъютанты главнокомандующего центральным участком советско-германского фронта фон Харденберг и фон Лендорф.
Вторая группа заговорщиков возникла в штабе командующего армией резерва на Бендлерштрассе в Берлине и стала подлинным организационным центром заговора. Возглавлял ее генерал Фридрих Ольбрихт, а его главным сподвижником был полковник Клаус фон Штауффенберг. Ольбрихт был фактически заместителем командующего резервной армией и благодаря этому распоряжался войсками, расквартированными на территории рейха.
Третья группа, уже, можно сказать, по традиции, возникла в Генеральном штабе сухопутных войск в Цоссене. Ее руководящими деятелями были генерал-квартирмейстер Вагнер, начальник организационного отдела главного командования армии генерал Штифф и генерал Линдеманн. Если офицеры на советско-германском фронте на себе испытывали поражения фашистских войск и были отлично осведомлены о ситуации на передовой, складывавшейся отнюдь не в пользу Германии, то сотрудники генерального штаба сухопутных войск и штаба командующего армией резерва хорошо знали глобальное воздействие хода войны на экономическое и военно-политическое положение Германии, весьма существенно отличавшееся от заявлений официальной пропаганды. Под влиянием статистических данных они все яснее осознавали, что война проиграна, что и побуждало их к активным действиям. Еще одна — незначительная оппозиционная группа сформировалась в Париже, в штабе командующего германскими войсками во Франции. Ее возглавили генерал фон Штюльпнагель и полковник Цезарь фон Хофаккер, двоюродный брат Штауффенберга.
1942 год стал важной вехой в оформлении заговора против фюрера. Именно в это время происходят активные контакты, взаимоопознание и объединение различных оппозиционных групп. Тогда же в общих чертах складывается и примерный план действий, равно как и круг участвующих в них лиц.
О возникновении кружка заговорщиков на Восточном фронте в штабе группы армий «Центр» неугомонный Остер узнал еще в 1941 году от своего друга адвоката Фабиана фон Шлабрендорфа, призванного в армию и попавшего на советско-германский фронт прямо в подчинение полковнику фон Трескову. От своего друга помощник Канариса узнал, что этот полковник готов на самые решительные действия. Отлично зная верность присяге, солдатской чести и беспрекословное повиновение начальству, характерное для немецких офицеров, Тресков быстро понял, что путч в Германии не может удасться, пока жив верховный главнокомандующий Гитлер. Вывод из этого несложного наблюдения для боевого офицера был очевиден: необходимо убить фюрера и тем самым освободить армию от данной ему присяги.