В августе – сентябре 1942 г. адмирал Канарис провел проверку работы «абверкоманды-104» и остался доволен планами и ситуацией, указав на необходимость более активного проникновения в штабы Красной армии, политическое и хозяйственное руководство в тылу. Свою оценку возможностей абверкоманды и абвергрупп провели и направленные Канарисом в Псков сотрудники, среди которых был В. фон Каульбарс и ряд других. Однако через год, в 1943 г. на совещании в Риге Канарис остался недоволен низкой активностью и качеством агентуры. По его мнению, органам Абвера не удалось внедриться в красноармейские штабы высокого уровня и поэтому надо было срочно исправлять работу, для чего в «абверкоманду-104» из «отдела 1С» был переведен доктор филологии капитан И. Зиг (псевдоним Виктор), опытный офицер разведки, работавший ранее в Кенигсберге.
Всего за период 1943 г. и первые два месяца 1944 г. Шиммель сумел подготовить 24 разведгруппы, с которыми он работал лично. Среди засылаемых агентов были военные и гражданские люди, имевшие разнообразные легенды и задания. Кроме того, в конце 1943 г. Шиммель подготовил несколько групп для оседания в Пскове, Новгороде, районах Ленинградской области после немецкого отступления для дальнейшей работы. Сам Шиммель с конца 1943 г. также стал готовить выход «абверкоманды-104» из Пскова в предместья Риги. В феврале 1944 г. Шиммеля на посту руководителя органа разведки сменил капитан Бер, до конца войны – это подразделение возглавлял капитан Граберт, кадровый офицер полка «Бранденбург-800».
Советские органы государственной безопасности очень внимательно следили за событиями, происходящими на оккупированной территории. Для получения необходимой информации, определения мест расположения, состава, методов работы спецслужб противника использовались все возможности чекистской работы. Советскому руководству и чекистам приходилось учиться и модернизировать структуру органов для эффективного противоборства с немецкими спецслужбами по ходу войны.
Для противоборства с врагом 20 июля 1941 г. прошла новая реформа органов безопасности страны. Для объединения действий советских спецслужб НКВД и НКГБ были объединены в единый Народный комиссариат внутренних дел. Чекисты смогли учесть многие ошибки и сложности первых месяцев войны и постепенно создать в целом эффективную систему борьбы с разведорганами и агентурой врага. В органах НКВД уже в 1941 г. стали появляться и обучаться новые сотрудники. Для них создавались краткосрочные курсы, на которых на основе рекомендаций Центрального аппарата НКВД и личного примера опытных сотрудников, проводилась чекистская учеба, часто без отрыва от работы в подразделениях. При обучении контрразведчиков использовались знания и приемы, полученные в борьбе с немецкими спецслужбами.
Большое внимание стало уделяться вскрытию агентуры противника в прифронтовой полосе. В директиве НКВД СССР № 292/к от 19 ноября 1941 г. «О борьбе с агентурой германской разведки» указывалось: «Проводить тщательную фильтрацию всех лиц, перешедших через линию фронта с территории, занятой противником, и направлять их в глубокий тыл, не допуская оседания в прифронтовой полосе… Беженцев с территории, занятой противником, и бывших пленных, ведущих контрреволюционную пораженческую агитацию, немедленно арестовывать, ставя задачей следствия вскрытие возможной связи этих лиц с германской разведкой».
Важное значение занимал оперативный розыск заброшенных агентов врага. Система специальных розыскных мероприятий НКВД начала постепенно складываться в процессе борьбы с агентурной разведкой противника и включала в себя организацию наблюдения за вероятными маршрутами движения шпионов, диверсантов, а также местами дислокации Красной армии и промышленных и транспортных объектов. Управлением контрразведки (УКР) «Смерш» Ленинградского фронта были подготовлены 34 специальные поисковые группы для проведения режимных и войсковых мероприятий – проверку документов в местах наибольшего скопления людей, фильтрацию подозрительных лиц, побывавших в плену или временно проживавших на оккупированной территории, использование заградительной службы в войсках, исследование лесных массивов в целях обнаружения заброшенных парашютистов и скрытых складов, а также частая замена армейских документов. УКР «Смерш» по Ленинградскому фронту только за вторую половину 1943 г. было арестовано более 300 вражеских агентов, прошедших обучение в разведшколах и заброшенных Абвером в советский тыл. Были арестованы агенты, пытавшиеся проникнуть в штабные подразделения различных воинских формирований.
Основным средством противодействия противнику в прифронтовой полосе, в действующей армии, и на оккупированной территории являлась агентурно-осведомительная сеть, которая была развернута чекистами практически повсеместно. Особое внимание обращалось на приобретение агентов и осведомителей на участках наиболее вероятного проникновения вражеских агентов в войска (в пунктах, где происходила проверка у военнослужащих документов, в штабах, в подразделениях боевого охранения в запасных полках, на фильтрационных пунктах, в комендатурах, на продовольственных пунктах и железнодорожных станциях).
Важнейшей задачей было агентурное проникновение в спецслужбы противника с целью получения информации о планах и замыслах разведывательных, контрразведывательных и полицейских структур. Успехи советских войск в ходе контрнаступлений и наступательных операций 1942–1943 гг. позволили контрразведчикам активизировать свои действия. Прежде всего чекисты тщательно проанализировали различные полученные материалы по конкретным разведывательно-диверсионным органам противника. Собранные данные стали основой для разработок планов по проникновению в разведшколы. Эта работа включала подготовку агентуры для зафронтовой работы.
Подготовительная работа по созданию агентурного аппарата заключалась в сборе необходимых сведений о положении в данном районе, наличии разведорганов врага, оккупационном режиме, о настроении населения, а также о предателях и пособниках оккупантов. Создание агентурного аппарата шло путем подбора и вербовки агентов из числа социально близких советской власти людей, проживавших на оккупированной территории. Самым активным образом использовались и подготовленные в Ленинграде агенты, для которых разрабатывались задания, система связи и легенды прикрытия. Органы госбезопасности изыскивали и другие приемы агентурного проникновения в нацистские разведслужбы и школы. При этом наряду с перевербовкой вражеских агентов и вербовкой официальных сотрудников разведшкол одним из основных методов являлась «подстава» агентов на вербовку. 20 февраля 1942 г. своим указанием Л. П. Берия предложил «практиковать засылку надежной агентуры в тыл противника для подставы ее германским разведывательным органам с задачей выявления дислокации и личного состава этих органов, а также лиц, подготовляемых противником к переброске на нашу территорию. С этой же целью практиковать перевербовку и засылку в тыл противника захваченной нами вражеской агентуры».
На реализацию этих задач были нацелены как областные и районные управления НКВД, так и зафронтовые структуры чекистов. В Ленинградском управлении НКВД проводилась подборка и обучение кадров для работы на оккупированной территории и в немецких специальных и оккупационных органах. На оккупированных территориях уже в конце 1941 – начале 1942 гг. появились оперативные группы НКВД, подготовленные в Ленинграде из числа кадровых сотрудников НКВД. Перед ними ставились общие и целевые разведывательные задачи. Общие заключалась в непрерывном сборе любой информации о противнике, а целевые разведывательные задачи состояли в сборе информации о конкретных объектах, в добывании определенных сведений, а также проведении специальных операций. На территории Псковских районов в 1941–1944 гг. действовало несколько таких групп и оперативных баз. Чекисты организовывали различные разведывательные и диверсионные мероприятия против врага осуществляли налеты, засады, работали против Русской освободительной армии (РОА), восточных батальонов и националистических подразделений, получали сведения от работавших в различных оккупационных учреждениях агентов и советских людей, организовывали связь с «большой землей» и взаимодействовали с партизанскими отрядами.
Вместе с тем, следует отметить, что «несмотря на значительные достижения в зафронтовой работе органов НКВД имели место и недостатки, влиявшие на эффективность работы в тылу врага. Основными причинами здесь являлись: отсутствие до 1942 г. четких и объективных данных о спецслужбах противника, прежде всего о разведывательных и контрразведывательных подразделениях, разрозненность проводимых мероприятий, неудовлетворительная организация связи с заброшенными в тыл врага агентами, вследствие чего добытая ими информация запаздывала, и поэтому не всегда удавалось парализовать усилия Абвера и СД по проведению разведывательно-диверсионных акций».
Кроме того, немецкие сотрудники Абвера («абвергруппы-304») и СД на следствии в 1945 г. говорили о выявленных и типичных недостатках в зафронтовой работе НКВД. К ним относилось неточное оформление немецких документов, недостаточное владение немецким языком «общие типично русские орфографические ошибки». Примером может быть наличие точек в разграничении числа, месяца и года. «Немцы всегда это делают», а офицеры «Волховского и Ленинградского фронтов почти никогда точки не ставили». Неправильно прописывались звания вермахта и СС. Еще одним недостатком «было постоянное желание забросить агентов в глухие леса», эти люди обрекались на голод, их появление можно было заметить в населенных пунктах. Нередко группы выбрасывались в незапланированных точках, вывяленные и арестованные агенты НКВД говорили об этом. Самолеты всегда летали по одному и тому же маршруту, и немецким силам было удобно их отслеживать и контролировать получение грузов и выброску парашютистов. Были известны случаи, когда самолеты, связывающие партизанские бригады и «большую землю» сбивались и в руки немецких спецслужб попадали секретные документы партизан, с полными отчетами о разведывательно-диверсионной работе, списками и схемами действий агентов. «У советских агентов и партизан очень часто при обысках обнаруживались дневники и записи о маршрутах следования, контактах и связниках». Эти записи использовали сотрудники ГФП и других спецслужб для вскрытия ячеек подполья.