«Трудно поверить, но до 1927 г. у Берзина не было даже постоянного секретаря. В приемной дежурили сменные сотрудники управления. Первым секретарем Берзина стала М.В. Волгина, а с августа 1932 г. — я, после отъезда Маруси в спецкомандировку. Появлялся П.И. Берзин в приемной ровно в 9.00, обычно вместе со своим помощником В.В. Давыдовым. Тотчас же к нему приходил с телеграммами начальник шиф-ротдела Э.Я. Озолин. Затем появлялся порученец В. Зимин — ответственный за получение и отправку зарубежной почты и за оформление уезжавших в командировки сотрудников управления. Когда Зимин приносил зарубежную почту, Берзин говорил: “Никого не пускай ко мне. Буду думать и писать’'. Он всегда первым просматривал почту, и уже потом она, после регистрации, передавалась в отделы… Целыми днями у Берзина были люди, бесконечно звонил телефон. Только поздно вечером Павел Иванович имел возможность знакомиться с объемными документами. Обычно он садился на тахту, включал лампу и радиолу и так вот он мог работать часами. Павел Иванович любил как классическую музыку, так и народные песни. Он и сам с удовольствием пел вместе с товарищами, которых изредка увозил после работы к себе домой на чашку чая… Переполненный служебными заботами Павел Иванович иногда выходил из кабинета в приемную и со словами: “Пойду тряхну стариной”, спускался на пару часов в подвал к тонкому мастеру своего дела И.В. Сагулину поработать на слесарном станке», — вспоминает Н. Звонарева.
«Каким он запомнился мне? Крепко сложенный, седая голова — поэтому и звали его “Стариком”, коротко подстриженные волосы, серо-голубые глаза, улыбка открытая, обаятельная. Я, например, не слышал, чтобы он хохотал, громко смеялся, а вот когда ему что-то нравилось или был в приподнятом настроении, то обязательно улыбался. Но был строгим, требовательным начальником. В то же время трепетно ценил людей, прямо-таки по-отечески относился к работникам управления. Заботился о семьях: отправит кого-нибудь за рубеж, и сам, не перепоручая заместителям, постоянно справляется, как там в семье, не нужна ли какая помощь» (Л. Бекренев, в военной разведке с 1932-го, был начальником военно-морской разведки, заместителем начальника ГРУ Генштаба, адмирал).
Латышский поэт Э. Веверис, сидевший вместе с Л. Маневичем в Маутхаузене, писал с его слов: «Я почти не знал его как начальника. Для меня он всегда был “Стариком” — очень близким и очень умным советчиком. Он никогда не выделял себя из рядов наших товарищей. Ни манерой разговора, ни поведения. Зато выделялся главным: умением слушать. Вникать в твои мысли и потом, только потом, дать добрый совет. “Старик” не терпел зазнайства. Часто повторял, что наш враг — умен и хитер, что он имеет огромный опыт. Победить его можно только своим умом, своим мужеством и находчивостью, глубоким анализом происходящих в мире явлений… Мне всегда казалось, что он знал о мире все. И в редкие наши встречи очень щедро делился этими знаниями».
Между тем в Разведупре происходили перемены, связанные не столько с образованием в июне 1934 года Народного комиссариата обороны, сколько с сильным давлением извне — со стороны руководства НКВД СССР. В докладной записке о работе IV Управления Штаба РККА, направленной секретарю ЦК ВКП(б) Сталину, нарком внутренних дел Г. Ягода писал о провалах военной разведки за первую половину 1933 и начало 1934 года. Документ этот часто цитировали, но, похоже, его никто не проверял. Наркомвнудел винит во всем руководство и сотрудников Разведупра, указывает на их некомпетентность, несоблюдение ими правил конспирации, ряд разведчиков называет предателями. Рассказывая о провале М. Тылтынь в Финляндии, он называет изменником начальника ПРП Разведотдела штаба ЛВО А. Утриайнена, утверждает, что начальники военной разведки могли вывести из-под удара практически всю сеть Тылтынь, но и пальцем для этого не шевельнули. Далее он сообщает о провале во Франции и предъявляет те же обвинения: по его словам, резидент в Париже Г. Килачицкий поставил в известность Москву о том, что за ним ведется слежка и существует опасность провала. Но, как пишет Ягода, доводы резидента не были приняты во внимание, а самого Килачицкого обвинили в трусости. В начале 1934-го, по сведениям наркомвнудела, произошел провал нескольких резидентур Разведотдела штаба ОКДВА. Одним из главных виновников он называет начальника Разведотдела В. Карпова. А под этим именем, как теперь известно, работал в военной разведке В. Чуйков. Затем следует латвийский провал в июне 1933-го. Он произошел, как утверждает нарком, исключительно по вине Четвертого Управления, к тому же меры после раскрытия группы в Латвии не были приняты, и провалы пошли по цепочке в Германию и другие страны Западной Европы. Ненадежностью агентуры и некомпетентностью начальников Аккерманского и Одесского ПРП Ягода объясняет провалы их резидентур в Румынии в 1933–1934 годах. Нарком пишет также о ликвидации в Белоруссии в начале июля 1933 года контрреволюционной организации «Белорусский национальный центр», связанной с польской разведкой. В составе БНЦ, доносит нарком, было девятнадцать человек негласных сотрудников Разведотдела штаба БВО. И завершается документ рассказом о провалах в пограничных разведывательных пунктах Закавказского военного округа.
В результате Политбюро ЦК ВКП(б) принимает 26 мая 1934 года постановление «Вопросы IV Управления РККА». Военной разведке ставилось в вину громоздкость агентурных сетей и засоренность их ненадежными и «засветившимися» агентами (что привело к ряду провалов), недостаточную подготовку кадров, слабую увязку деятельности Разведупра с Особым и Иностранным отделами ОГПУ — НКВД и т. д. Возможно, Ягода надеялся взять под полный контроль деятельность военной разведки, как это было, например, в Таджикской группе войск Средне-Азиатского военного округа, но получилось несколько иначе. Исправлять положение в Разведупре было поручено чекистам во главе с А. Артузовым, которые присылались на работу в Управление в 1934–1936 годах. Сотрудники военной разведки, естественно, отнеслись к этому отрицательно. Не улучшало обстановки и то, что Артузов называл себя «глазами и ушами» Сталина в Разведупре. Там и без того хватало «глаз и ушей», информировавших Особый отдел. Однако в дальнейшем все могло бы утрястись; достаточно профессиональная команда чекистов имела шансы полностью войти в курс дела, наладить отношения с сотрудниками Разведупра, но времени уже не оставалось. Конфликт, возникший в результате решения Сталина направить чекистов в военную разведку, был им же и разрешен, разрешен по принципу — нет человека, нет проблемы.
В ноябре 1934 года ЦИК СССР утвердил «Положение о Народном комиссариате обороны СССР». Согласно пунктам 13–14 раздела III этого документа, Разведывательное управление РККА теперь подчинялось непосредственно наркому, а не входило в структуру Штаба РККА. Задачи, возлагаемые на начальника Разведупра, остались неизменными (глава 5, пункты 30–31), структура же центрального аппарата военной разведки теперь радикально изменилась.
25 декабря «в связи с переходом центральных управлений НКО СССР на новую организационную структуру, в соответствии с новым положением о НКО СССР», на должность начальника Разведупра был назначен Ян Карлович Берзин. Прочие назначения по новой структуре состоялись в январе 1935-го. При этом целый ряд ключевых постов (включая должности начальников новых, региональных теперь 1-го и 2-го отделов) заняли сотрудники ИНО (Иностранного отдела), пришедшие в военную разведку вместе с А. Артузовым.
На этом перемены не закончились. Вскоре в Дании произошел провал резидентуры во главе с А. Улановским. И 15 апреля 1935 года секретным приказом наркома за № 0531 Берзин был освобожден по его просьбе от руководства Разведупром и зачислен в распоряжение наркома обороны с выражением признательности и уверенности в том, «что и в будущей своей работе т. Берзин вполне оправдает свой заслуженный авторитет одного из лучших людей Рабоче-Крестьянской Красной Армии». Характерно, однако, что в первоначальном проекте этого приказа, датированном 10 апреля, ни о какой благодарности речи нет — он выглядит как обычный приказ о снятии с должности.
Яна Карловича назначили «вторым заместителем по политической части командующего войсками ОКДВА (для руководства работой разведки)» — то есть отправили в «почетную ссылку» с явным понижением в должности. Начальником Разведотдела Особой Краснознаменной Дальневосточной армии, место дислокации которой приравнивалось к военному округу, и его заместителем были старые сотрудники Берзина — А. Гайлис (Валин) и X. Салнынь. В аппарате разведотдела и в сопредельных странах действовали знакомые ему по прежней работе Р. Зорге, И. Ринк, Г. Гилев, Н. Лухманов, Н. Вишневецкий, X. Боев (Русев), Э. Лепин, К. Батманов, Г. Цатуров и другие.
В полночь 18 июля 1936 года радиостанция города Сеуты (испанское Марокко) передала в эфир фразу: «Над всей Испанией безоблачное небо» — прозвучал сигнал к мятежу генерала Франко против Испанской республики. Мятеж удался только отчасти. В большинстве крупных городов вооруженные группы путчистов были сразу же разгромлены, им удалось захватить лишь несколько районов. Так началась длившаяся три года тяжелая и кровопролитная гражданская война. Германия и Италия сразу же открыто поддержали мятежников. В страну вторглись интервенты. На стороне республиканцев выступил Советский Союз — явно на словах и тайно на деле. Конечно, присутствие советского оружия и советских военных в Испании было секретом Полишинеля, тем не менее конспирация упорно соблюдалась.
В октябре 1936 года в Испанию в качестве советников стали прибывать советские военные специалисты. Уже в начале октября немецкие разведчики отправили из Мадрида в Берлин сообщение: «Сюда прибыл главный военный советник республики и советский генерал Гришин». Этим генералом и был Ян Карлович Берзин. Его вызвали в Москву еще весной 1936 года, и когда начался франкистский мятеж, отправили в Испанию.
Первое, чем ему пришлось заниматься, — организацией обороны Мадрида. Уже в начале ноября войска мятежников вышли на ближние подступы к испанской столице. 6 ноября бои шли уже на окраинах города. Военные советники торопились организовать оборону. А 8 ноября в городе появилась первая из интернациональных бригад, этой гвардии Коминтерна. Франкистам так и не удалось взять город.