Сталин давал понять о своем крайнем неудовлетворении кадровым составом во всех звеньях управления. Фактически Сталин объявлял вакантными все руководящие должности в партии от "унтер-офицерских" до "генеральских" и объявлял широкий конкурс на эти должности, предлагая минимум до трех кандидатов на каждую вакансию. Все участники этого конкурса должны были пройти обширную программу политической учебы, а победители конкурса должны были отвечать тем требованиям, которые будут им предъявлены как высшим руководством, так и партийными массами. Можно предположить, что подобный же конкурс предстояло выдержать и руководителям ведомств, силовых и хозяйственных, на разных уровнях. Сталин напоминал, что проверка руководителей массами отвечала духу вновь принятой Конституции и заявлял, что "народ проверяет руководителей страны во время выборов в органы власти Советского Союза путем всеобщего, равного, прямого и тайного голосования".
Хрущев знал, что за два десятилетия его пребывания на различных управленческих постах, в стране совершилась настоящая культурная революция. Миллионы выходцев из рабочих и крестьян получили законченное среднее и высшее образование. С одной стороны, они еще не успели забыть свою работу и не обрели привилегии, связанные с властным положением. С другой стороны, они знали современное производство и на практике, и в теории, а потому могли не хуже Хрущева разбираться в тех производственных вопросах, которые должен был постоянно решать советский партийный руководитель. Их идейно-политическая подготовка была выше подготовки Хрущева. В случае конкурса, предложенного Сталиным, Хрущев мог бы утратить свое "руководящее положение".
Однако планы Сталина открыть всесоюзный конкурс на замещение всех партийных должностей и начать переподготовку всех партийных кадров оказались сорваны. Возможно, что для многих обладателей насиженных мест объявление Сталиным всесоюзного конкурса на все управленческие вакансии было равносильно сигналу боевой тревоги. Март 1937 года стал месяцем резкого обострения явной и закулисной внутриполитической борьбы. В марте были отправлены в отставку первый секретарь Киевского обкома и кандидат в члены Политбюро П.П.Постышев. В том же месяце были отстранены от своих должностей многие бывшие сотрудники Ягоды в руководстве НКВД. Имевшиеся в германских правящих кругах сведения позволили Паулю Кареллу утверждать, что "в марте 1937 года соперничество между тайными агентами Тухачевского и Сталина обострялось и становилось все более драматичным". На 1 мая 1937 года был намечен военный переворот. В нем должны были принять участие и некоторые партийные руководители. Лишь по тактическим соображениям выступление было перенесено на середину мая.
В условиях нараставшей конфронтации в правящих кругах СССР Н.С.Хрущев не примкнул к тем, кто замышлял выступление против Сталина. Напротив, он демонстрировал свою лояльность Сталину и его ближайшим сподвижникам. Он обладал многолетним опытом как надо "разоблачать" "скрытых врагов" и этот навык вновь пригодился ему в борьбе за укрепление его руководящего положения. Выступая в мае 1937 года на московской партконференции, Хрущев говорил: "Это – не открытая борьба, где пули летят с вражеской стороны. Это борьба с человеком, который сидит рядом с тобой, который приветствует наши успехи и достижения партии, в то же время сжимая револьвер в своем кармане, выбирая момент, когда пустить в тебя пулю, как они пустили в Сергея Мироновича Кирова". Обращаясь к присутствовавшему в президиуме конференции заведующему отделу руководящих партийных кадров
Г.М.Маленков, Хрущев спрашивал: "Почему вы, товарищ Маленков, так затягиваете разбор дел врагов народа – ведь здесь необходима быстрота и промедление вредит делу партии". По свидетельству А.Г.Маленкова, прямо по окончании конференции было арестовано 19 ее участников.
Тайная борьба переросла в открытую. Выступление военных было сорвано. За арестами Тухачевского и других военачальников в конце мая 1937 года последовали и аресты ряда партийных руководителей. Выступая на заседании Военного совета при наркоме обороны 2 июня 1937 года, Сталин сообщал, что в ходе раскрытия заговора было арестовано 300 – 400 человек. Если в марте 1937 года он говорил об отрыве партийных руководителей от масс, о превращении их в "удельных князьков", то сейчас он прежде всего подчеркивал сотрудничество некоторых военных и политических деятелей страны с иностранными разведками. По сути Сталин отказался рассматривать более глубокие причины, породившие кризис в партийном руководстве, передоверяя НКВД изыскивать свидетельства шпионской деятельности в высших эшелонах власти. В то же время Сталин считал, что некоторым участникам заговора следует предложить добровольно сознаться в том, что их вовлекли в преступные деяния, а затем простить их. Казалось, что после арестов и расстрелов Тухачевского и других, репрессий закончились, но это было не так.
На июньском пленуме 1937 года Ежов потребовал санкции на арест 11 членов и 14 кандидатов в члены ЦК, которые, по сведениям НКВД, оказались замешанными в деле о военных заговорщиках. Значительная часть ЦК во главе с И.А.Пятницким воспротивились этому и выступили против продления чрезвычайных полномочий НКВД. Этому предшествовала тайная встреча ряда членов ЦК на квартире Пятницкого. Лишь один из участников этой встречи секретарь Московского областного Совета Филатов проинформировал об этом Сталину. Это свидетельствовало о широкой оппозиции Сталину и его сторонникам в руководстве страны. Сталин и другие члены Политбюро могли придти к выводу, что оппозиционные им члены ЦК замышляют действия, подобные тем, которые готовили Тухачевский и другие.
В то же время немало членов ЦК активно поддерживали НКВД и действия Ежова. Одним из них был Н.С.Хрущев. Он призывал партийный актив к тесному сотрудничеству с органами НКВД в разоблачении "врагов народа". Между тем Ежов и его новые сотрудники НКВД в своих действиях полагались больше на подозрения, чем доказательства вины, на преувеличенное недоверие и страхи перед тайным врагом, чем на реальную информацию об антигосударственной деятельности. Преувеличенные подозрения заставляли подчиненных Ежова выбивать показания у арестованных, которые признавались в невероятных заговорах и сотрудничестве с разведками всех стран мира. Подстрекателем в разжигании подозрительности органов НКВД стал и Троцкий. В своих зарубежных публикациях он преувеличивал масштабы оппозиции и уверял, что органы НКВД не сумели обнаружить его сторонников. Эти сообщения лишь подстегивали сотрудников НКВД и их ретивых добровольных помощников к поиску "тайных врагов".
По мере того, как Ежов сообщал о новых раскрытых заговорах, руководство страны открыло ему "зеленую улицу". Разгулу репрессий способствовала и позиция многих партийных руководителей, стремившихся расправиться с возможными конкурентами и укрепить собственное положение. Юрий Жуков предполагает, что в конце июня 1937 года в руководство страны была направлена записка Р.И.Эйхе, который призывал санкционировать создание в областях "троек", наделенных "правом выносить смертные приговоры". Жуков пишет: "Инициативная записка Р.И.Эйхе оказалась тем камушком, который вызвал страшную горную лавину. Три дня спустя, 2 июля, последовало еще одно решение Политбюро, распространившее экстраординарные права, предоставленные поначалу лишь Эйхе, уже на всех без исключения первых секретарей ЦК нацкомпартий, обкомов и крайкомов". В решении говорилось: "ЦК ВКП(б) предлагает в пятидневный срок представить в ЦК состав троек, а также количество подлежащих высылке". На основе этого решения Ежов издал приказы N 00446 и N 00447, в которых предписывалось "раз и навсегда покончить с подлой подрывной деятельностью против основ Советского государства".
Откликаясь на решение Политбюро от 2 июля 1937 года, местные партийные руководители в течение недели представили квоты людей, подлежащих высылке или расстрелу по решениям "троек". Ю.Жуков отмечает, что "численность намеченных жертв свыше пяти тысяч определили семеро… сочли, что число жертв "троек" должно превысить 10 тысяч, уже только трое… Самыми же кровожадными оказались Р.И.Эйхе, заявивший о желании только расстрелять 10 800 жителей Западно-Сибирского края, не говоря о еще не определенном числе тех, кого он намеревался отправить в ссылку; и Н.С.Хрущев, который сумел подозрительно быстро разыскать и "учесть" в Московской области, а затем и настаивать на приговоре к расстрелу либо к высылке 41 305 "бывших кулаков" и "уголовников".
Вскоре репрессии распространились и на членов партии. Если в марте 1937 года Сталин решительно осуждал огульные исключения из партии и расстрелы, то с лета 1937 года подобные методы подавления противников стали обычными. И это свидетельствовало, что руководство страны во главе со Сталиным в известной степени утрачивало контроль над происходившими событиями. Совершенно очевидно, что события пошли не так, как они должны были происходить по плану Сталина, собиравшегося устроить конкурс среди партийных работников и поднять их уровень общей и политической подготовки на курсах разных ступеней. Анализируя материалы Смоленского архива, вывезенного немцами во время войны, а затем захваченного американцами, историк Г.Т.Риттерспорн пришел к выводу, что Сталин "не всегда был способен управлять ходом событий" и даже утверждал, что в эти годы он потерпел "политическое поражение".
В определенной степени утрата контроля над репрессиями руководством страны была связана с тем, что сталинская система управления исходила из доверия руководителям ведомств. Бенедиктов вспоминал: "При Сталине наркомам предоставлялась достаточно большая свобода рук". Визы Сталина и других членов Политбюро, которые потом обнаруживали на "расстрельных" списках Ежова, свидетельствовали, прежде всего, о том, что Ежов, как и другие наркомы, получил свободу действий. Между тем после чистки в НКВД, устроенной Ежовым, туда пришли люди, не имевшие ни малейшего представления о правовых нормах, но руководствовавшиеся "революционной совестью".