На начальном этапе войны особую роль в становлении и развертывании партизанского движения в тылу врага сыграло 4-е Управление НКВД СССР, которое возглавил молодой, но очень опытный чекист-диверсант генерал-лейтенант П.А. Судоплатов. В состав этого управления входила Отдельная мотострелковая бригада особого назначения НКВД СССР полковника М.Ф. Орлова, из состава которой формировались небольшие мобильные разведывательно-диверсионные отряды, забрасываемые в тыл врага, которые затем, как правило, превращались в крупные партизанские отряды, бригады и соединения. Первоначально на вооружении у партизан было, в основном, легкое огнестрельное оружие — автоматы, ручные пулеметы, винтовки и карабины, однако затем многие отряды и соединения обзавелись минометами и станковыми пулеметами, а ряд из них — даже полевой артиллерией. Все лица, вступавшие в партизанские формирования, принимали особую партизанскую присягу, а в самих отрядах устанавливалась строгая воинская дисциплина, нарушение которой каралось по законам военного времени
В мае 1942 г. под эгидой Ставки ВГК был создан Центральный штаб партизанского движения (ЦШПД), который возглавил первый секретарь ЦК компартии Белоруссии генерал-лейтенант П.К. Пономаренко. В структуре ЦШПД были два отдела. Разведотдел ЦШПД отвечал за работу по установлению новых войсковых соединений противника, прибывающих на фронт, перегруппировок войск, состояния и работы коммуникаций противника, контроля за его мероприятиями по подготовке защитных и оборонительных рубежей, дислокации и перебазированию аэродромов и складов боеприпасов, численностью и боеспособностью полевых и охранных частей, а также политико-экономическим положением на оккупированной территории СССР. Оперативный отдел ЦШПД руководил боевой деятельностью партизанских соединений как через соответствующие штабы партизанского движения, так и напрямую. Кроме того, Оперативный отдел занимался созданием рейдовых партизанских соединений и отрядов, засылкой организаторских и диверсионных групп и переформированием партизанских соединений, определял им новые районы деятельности и ставил им боевые задачи, а также занимался контролем выполнения приказов начальника ЦШПД.
В оперативном отношении ЦШПД подчинялись все республиканские и областные штабы партизанского движения, которые возглавлялись секретарями или членами ЦК компартий союзных республик, крайкомов, обкомов, горкомов и райкомов партии. В частности, Украинский штаб партизанского движения возглавил кадровый чекист, зам. главы НКВД УССР генерал-майор Т.А. Строкач, Белорусский штаб партизанского движения — секретарь ЦК компартии Белоруссии генерал-майор П.З. Калинин, а Литовский штаб партизанского движения — первый секретарь ЦК компартии Литвы А.Ю. Снечкус. Создание штабов партизанского движения, а также надежных каналов связи партизанских отрядов и соединений с «Большой землей» придали партизанскому движению гораздо более организованный характер, что позволило в больших масштабах согласовывать действия партизан с частями регулярной Красной армии.
В сентябре 1942 г. была учреждена должность главнокомандующего партизанским движением, на которую был назначен член Политбюро ЦК маршал К.Е. Ворошилов, и Центральный штаб партизанского движения был переподчинен ему. В ноябре 1942 г. новоиспеченный партизанский главком внес в Ставку ВГК и ГКО предложение о создании в тылу германских войск регулярной партизанской армии. Однако после изучения данного вопроса его предложение было отвергнуто, а в мае 1943 г. пост главкома партизанским движением был упразднен. Отныне Центральный штаб партизанского движения, в состав которого входили генерал-лейтенант П.К. Пономаренко, нарком НКВД УССР генерал-майор В.Т. Сергиенко и начальник Управления радиоразведки ГРУ НО СССР генерал-майор Т.Ф. Корнеев, был вновь напрямую подчинен Ставке ВГК и лично И.В. Сталину.
Первоначально, в 1941―1942 гг., основной тактической единицей советских партизан являлся партизанский отряд, ставший в годы войны одной из основных организационных структур и самой распространенной боевой единицей всех партизанских формирований. По своему предназначению все партизанские отряды делились на обыкновенные (унитарные), специальные (разведывательно-диверсионные), кавалерийские, артиллерийские, маршевые, штабные, резервные и местной самообороны. Как правило, эти отряды имели по 35–90 человек личного состава и делились на две-три боевые группы. Первые партизанские отряды носили название по месту дислокации (Путивльский, Шепетовский, Пинский) или по фамилии и кличке командира (отрад «Батыш Миная», отряд «Батьки Панаса»), а чуть позже им стали давать имена советских вождей, известных советских полководцев и легендарных героев революции и Гражданской войны, например, партизанский отрад им. С.М. Кирова, Отдельный партизанский отрад им. Н.А. Щорса, 3-й Партизанский отряд им. Г.К. Жукова, 2-й партизанский отряд им. В.П. Чкалова и т. д. Самыми крупными и результативными партизанскими отрядами, уничтожившими десятки тысяч немецких оккупантов, тысячи единиц боевой техники и сотни тонн боеприпасов, продовольствия и фуража, были партизанские отряды и диверсионно-разведывательные группы «Победители» (Д.Н. Медведев), «За Родину» (И.М. Бовкун), «Патриот» (А.С. Азончик), «Соколы» (К.П. Орловский), «Охотники» (НА Прокопюк), «Вторые» (Н.В. Зебницкий), «Боевой» (В.Л. Неклюдов), «Местные» (С.А. Ваупшасов), «Помощь» (Б.Л. Галушкин) и другие, командиры которых были удостоены звания Героя Советского Союза.
Затем многие отряды стали объединяться в партизанские бригады и соединения численностью от нескольких сот до нескольких тысяч бойцов. Партизанская бригада стала основной организационной формой партизанских формирований примерно с осени 1942 г. и обычно состояла из 4―8 отрядов (батальонов) в зависимости от их численности. Многие из них включали в свой состав кавалерийские подразделения, артиллерийские, минометные и пулеметные взводы, роты и батареи (дивизионы). Численность партизанских бригад постоянно колебалась от нескольких сотен до нескольких тысяч бойцов. Управление бригады обычно состояло из командира, комиссара, начальника штаба, заместителей командира по разведке, диверсиям, помощника командира по обеспечению, начальника медицинской службы и заместителя комиссара по комсомолу. В большинстве бригад были штабные роты или взводы связи, охраны, радиостанция, подпольная типография, у многих — свои госпитали, мастерские по ремонту оружия и имущества, взводы боеобеспечения, посадочные площадки для самолетов и т. д. В числе самых результативных бригад, командиры которых стали Героями Советского Союза, были Чашникская партизанская бригада (Ф.Ф. Дубровский), Минская партизанская бригада «Дяди Коли» (П.Г. Лопатин), 3-я Латвийская партизанская бригада (О.П. Ошкалн), 123-я партизанская бригада (Ф.И. Павловский), партизанская бригада «Народные мстители» (Г.Ф. Покровский), партизанская бригада «Неуловимые» (М.С. Прудников), партизанская бригада «Железняк» (И.Ф. Железняк), партизанская бригада им. Д.Е. Кравцова (М.И. Дука) и многие другие.
В тот же период возникло и несколько знаменитых партизанских соединений — подобие целых партизанских армий, построенных по принципу крупных воинских соединений оперативно-тактического звена, которые возглавлялись такими легендарными командирами, удостоенными генеральских званий, как дважды Герои Советского Союза С.А. Ковпак (Сумское партизанское соединение) и А.Ф. Федоров (Черниговско-Волынское партизанское соединение), Герои Советского Союза А.Н. Сабуров (Житомирское партизанское соединение), Д.В. Емлютин (Брянское партизанское соединение), П.П. Вершигора (Первая Украинская партизанская дивизия), М.И. Наумов (Объединенное кавалерийское соединение), В.З. Корж (Пинское партизанское соединение), Р.Н. Мачульский (Минское партизанское соединение), И.П. Кожар (Гомельское партизанское соединение) и другие.
Кроме того, десятки тысяч советских патриотов вели борьбу против оккупантов в составе многочисленных подпольных комитетов и групп, работой которых руководили рескомы, обкомы, горкомы и райкомы партии. Многие из руководителей этих подпольных комитетов пали смертью храбрых и были удостоены звания Героя Советского Союза, в том числе первый секретарь Харьковского подпольного обкома КП(б)У И.И. Бакулин, секретари Житомирского подпольного обкома КП(б) У А.Д. Бородай, И.Ф. Бугайченко и Г.И. Шелушков, секретарь Днепропетровского подпольного обкома КП(б)У Н.И. Станков, секретарь Минского подпольного горкома КП(б)Б И.П. Казинец, руководитель Винницкой городской подпольной парторганизации И.В. Бевз, секретарь Киевского подпольного райкома КП(б)У А.С. Пироговский, секретарь Вильнюсского подпольного горкома КП(б)Л Ю.Т. Витас, секретарь Нежинского подпольного комитета ВЛКСМ Я.П. Батюк, секретарь Рижского подпольного комитета ВЛКСМ И.Я. Судмалис, члены штаба легендарной краснодонской подпольной организации «Молодая гвардия» О.В. Кошевой, С.Г. Тюленин, И.А. Земнухов, У.М. Громова и Л.Г. Шевцова и многие другие.
Главными элементы партизанской борьбы с фашистскими оккупантами стали:
1) диверсионная деятельность и разрушение инфраструктуры противника (рельсовая война, уничтожение линий связи, отравление и уничтожение водопроводов и т. д.);
2) уничтожение складов боеприпасов, снаряжения, горючего и продовольствия, нападение на штабы и другие войсковые учреждения в тылу противника и уничтожение материальной части на аэродромах противника;
3) разведывательно-агентурная работа в тылу немецких воинских частей, полиции и гражданской администрации рейхскомиссариатов;
4) уничтожение живой силы врага и физическая ликвидация предателей (коллаборационистов) и руководителей оккупационных органов власти;
5) восстановление и сохранение институтов советской власти, партийная агитация и пропаганда на оккупированной территории страны;
6) точное осведомление регулярных воинских частей РККА и советского командования о расположении, численности и передвижениях войск противника и т. д.
Пик партизанского движения пришелся на период коренного перелома в ходе войны, а с июня 1943 г. действия многих партизанских отрядов, бригад и соединений приобрели организованный характер и стали частью крупнейших общевойсковых операций, например, легендарные операции «Рельсовая война» (август — сентябрь 1943 г.) и «Концерт» (сентябрь ― октябрь 1943 г.) на территории Ленинградской, Калининской, Смоленской, Орловской, Белгородской, Харьковской, Сумской, Черниговской, Гомельской, Витебской и других областей, непосредственной организацией и проведением которых руководил «дедушка советского спецназа» полковник И.Г. Старинов.