В 1930-х годах подвергалась реорганизации и криптослужба НКИД. Так, 12 февраля 1930 года Административная комиссия НКИД рассмотрела вопрос об улучшении работы и изменении структуры секретариата коллегии и постановила выделить из состава секретариата секретно-шифровальный отдел как самостоятельный отдел и подчинить его непосредственно одному из членов коллегии. 3 марта 1930 года Коллегия НКИД утвердила это решение комиссии.
В мае 1939 года этот отдел был реорганизован в секретно-шифровальный отдел НКИД. Шифровальный отдел был выделен из него как самостоятельный с непосредственным подчинением заместителю наркома и переименован в 10-й отдел НКИД. Название должности «шифровальщик» было отменено и было введено должностное название «референт», принятое в оперативных отделах НКИД.
19 июля 1939 года в соответствии с Постановлением Комитета Обороны СССР 8-й отдел ГШ РККА был переименован в Отдел шифровальной службы и включен в состав Оперативного управления ГШ РККА на правах самостоятельного структурного подразделения.
В 1939 году в связи с реорганизацией 5-го (разведывательного) Управления НКО шифровальное отделение стало 9-м отделом, а 7-й (дешифровальный) отдел стал 11-м отделом. Начальником 9-го отдела до октября 1939 года был майор Николай Александрович Филатов (1903–1967), а с октября 1939 года стал майор Леонтий Сергеевич Пелевин (1901–?). Начальником 11-го отдела с октября 1939 года стал майор Н. А. Филатов.
Приказом НКО СССР № 0038 от 26 июля 1940 года 5-е (разведывательное) Управление НКО вошло в состав ГШ Красной армии (далее — КА) и стало называться РУ ГШ КА. В его составе остался 9-й (шифровальный) отдел (начальник — майор Л. С. Пелевин), а 11-й (дешифровальный) отдел стал 10-м отделом (начальник — полковник Н. А. Филатов). 18 августа 1941 года на базе Отдела шифровальной службы Оперативного управления ГШ КА было создано Управление шифровальной службы ГШ КА общей численностью 197 военнослужащих и 50 служащих.
Указом Президиума Верховного Совета (далее — ПВС) СССР от 3 февраля 1941 года из состава НКВД был выделен наркомат государственной безопасности (далее — НКГБ). Шифровально-дешифровальное дело перешло в 5-й отдел НКГБ, начальником которого стал майор госбезопасности А. И. Копытцев. Для ведения шифропереписки в составе НКВД приказом № 00198 от 22 февраля 1941 года было организовано 6-е отделение, начальником которого стал А. А. Солодянников.
После начала Отечественной войны Указом ПВС СССР от 20 июля 1941 года НКВД и НКГБ были снова объединены в единый НКВД. Шифровально-дешифровальное дело перешло в 5-й спецотдел НКВД, начальником которого стал майор госбезопасности Иван Григорьевич Шевелев (1904–?), а его заместителем — старший майор госбезопасности А. И. Копытцев. Спецотдел по состоянию на 20 мая 1942 года имел по штату 683 человека и состоял из 16 отделений, задачи которых были следующими:
— 1–8 — дешифровально-разведывательная работа за рубежом;
— 9 — составление, исследование и издание кодов для НКВД, НКО и НКВМФ, НКИД, НКВТ;
— 10 — составление и издание блокнотов для НКВД, НКО, НКВМФ, НКИД, НКВТ;
— 11 — осуществление шифросвязи оперативно-чекистских управлений и отделов НКВД; шифрование и дешифровка телеграмм, учет и снабжение шифродокументами периферийных органов НКВД и их инструктаж по шифрработе;
— 12 — осуществление шифросвязи лагерей НКВД, пограничных, внутренних и оперативных войск НКВД, Прокуратуры, Военной коллегии Верховного суда СССР;
— 13 — осуществление шифросвязи зарубежной резидентуры 1-го Управления НКВД;
— 14 — оперативно-чекистское обслуживание шифрорганов наркоматов и других учреждений;
— 15 — проверка и допуск лиц, работающих с секретными, мобилизационными и шифровальными документами в учреждениях и на предприятиях; спецпроверка личного состава, работающего на особо режимных предприятиях.
16 февраля 1942 года приказом НКО № 0033 РУ ГШ КА было реорганизовано в Главное РУ (далее — ГРУ), а 23 сентября приказом НКО № 00222 с целью концентрации усилий по раскрытию шифропереписки противника ДРС ГРУ была передана в 5-й спецотдел НКВД. 3 ноября приказом НКВД № 002424 на базе 5-го спецотдела вместе с 7-м отделом (дешифровальный) 2-го Управления ГРУ и частями спецслужбы внутренних войск НКВД было образовано 5-е Управление НКВД. Его начальником стал старший майор госбезопасности И. Г. Шевелев, а его заместителем — комиссар госбезопасности А. И. Копытцев.
Части специальной службы войск НКВД осуществляли ведение радиоразведки. На них возлагались задачи разведки эфира, осуществления радиоперехвата, шифрованной радиопереписки, предварительной обработки этих данных из радиосетей и радиоточек.
В целях повышения уровня подготовки и обучения специалистов-криптологов еще в августе 1940 года при 7-м отделе ГУГБ НКВД была создана криптологическая школа особого назначения (далее — ШОН) со сроком обучения в один год. С началом Отечественной войны эта школа перебазировалась в Уфу.
Непосредственным начальником ШОН был С. А. Коган. Криптологические дисциплины в школе преподавали такие криптологи, как А. В. Австриаков, Б. А. Аронский, И. И. Мишин, С. С. Толстой. Занятия по иностранным языкам вели как отечественные специалисты (А. П. Шумский, А. Д. Гичко, В. И. Кривош-Неманич и др.), так и иностранцы: китаец Киджи, француз Булей, немец Мориц и др.
В апреле-мае 1941 года в криптослужбу НКВД было мобилизовано около 50 молодых ученых Московского государственного университета (далее — МГУ) — математиков и физиков, а также выпускников Военной академии связи. Они не только смогли быстро найти в ней свое место, но и привнесли в криптоаналитическую работу новые идеи. Если «старые» специалисты умели кропотливо, шаг за шагом накапливать информацию о ключе шифра противника, то математики, анализируя логику построения лишь частично известного ключа, находили алгоритмы его существенного пополнения. Инженеры и физики начали создавать и внедрять в анализ шифров вспомогательную технику. Эти два фактора способствовали осуществлению качественного «рывка» в раскрытии часто меняющихся ключей вермахта.
В декабре 1942 года на базе ШОН НКВД и 3-го учебного отделения Высшей школы ГШ КА была организована Специальная школа 5-го Управления НКВД в составе двух отделений с десятимесячным сроком обучения. Первое отделение этой школы готовило кадры криптоаналитиков для дешифровки военной переписки, а второе отделение — для дешифровки дипломатической переписки. Получаемые в школе специальные и языковые знания позволяли ее выпускникам быстро включаться в работу.
В годы Отечественной войны подразделения дешифровальной службы пополнялись в основном за счет окончивших Специальную школу, в которой были подготовлены многие ведущие специалисты. Специальная школа, а также ряд криптологических подразделений, находящихся в Уфе, подчинялись А. И. Копытцеву. Вместе с передачей 3-го отделения Высшей школы ГШ КА в состав Специальной школы из НКО были переведены опытные криптологи, в том числе М. С. Одноробов, Н. В. Пишенин, Г. И. Пондопуло, М. И. Соколов, А. Ф. Яценко и др.
Одновременно в подразделениях криптослужбы принимались меры для повышения квалификации работавших там специалистов. Была создана система различных курсов по криптологии и изучению иностранных языков. Почти каждый сотрудник, имевший отношение к разработке шифров, изучал криптологию и, в той или иной мере, иностранный язык. В этот период в криптологическую практику все активнее внедрялись научные методы анализа, основанные на использовании закономерностей языка. Поэтому при наборе в криптослужбу отдавалось предпочтение лицам с физико-математическим образованием.
В целях организации и координации научных исследований и подготовки научных кадров в 1942 году в составе 5-го Управления НКВД был создан Криптографический совет и редакция «Криптографического сборника», в состав которой вошли Б. А. Аронский, С. С. Толстой, А. В. Австриаков и др.
За время войны Криптографический совет рассмотрел более 60 проблем и вопросов по основным направлениям специальной работы и подготовки кадров. В дальнейшем в «Криптографическом сборнике» публиковались наиболее важные результаты криптологических исследований, материалы по обмену опытом и повышению квалификации. В частности, он содержал 13 статей, в которых описывались аналитические методы раскрытия ручных шифров и кодов, но работ по анализу машинных шифров не было.
14 апреля 1943 года в связи с приближением советских войск к границам СССР решением Политбюро ЦК ВКП(б) № П40/91 «Об образовании НКГБ СССР» и постановлением СНК СССР № 393–129сс из состава НКВД опять был выведен НКГБ. Шифровально-дешифровальное дело и спецсвязь перешли в 5-е Управление НКГБ. Его начальником стал комиссар госбезопасности И. Г. Шевелев, а его заместителями — комиссар госбезопасности А. И. Копытцев и старший майор госбезопасности Сергей Викторович Покотило (1903–?).
Для ведения шифропереписки в составе НКВД приказом № 00776 от 28 апреля 1943 года был создан 2-й спецотдел, начальником которого стал подполковник госбезопасности А. Воробьев, а с 1944 года по 21 марта 1949 года был подполковник В. Романов. По состоянию на 1 апреля 1945 года спецотдел имел по штату 52 человека, а в наличии — 49 человек. 3 мая 1949 года приказом МВД № 544 начальником спецотдела был назначен полковник И. И. Филаткин, служивший до этого заместителем начальника Управления кадров МВД.
Окончание Второй мировой войны и изменения в мировом геополитическом положении подтолкнули советское правительство к реорганизации органов власти и государственной безопасности. Так, 15 марта 1946 года 5-я сессия Верховного Совета СССР приняла Закон о преобразовании Совета народных комиссаров СССР в Совет министров СССР, а народных комиссариатов — в министерства.
Таким образом, НКВД превратился в МВД, НКГБ — МГБ, НКИД — МИД, НКО — МО и т. д. Приказом НКГБ № 00107 от 22 марта 1946 года 5-е (шифровально-дешифровальное) Управление НКГБ стало 6-м Управлением МГБ. Его начальником стал генерал-лейтенант И. Г. Шевелев, а его заместителем — генерал-майор А. И. Копытцев.