Причем разведка часто конкурировала со службой безопасности (СД) и тайной полицией (гестапо). В 1936 г. благодаря Канарису было достигнуто соглашение о разграничении полномочий указанных спецслужб — Договор десяти заповедей.
За СД закреплялась политическая разведка в государстве и за рубежом, за гестапо — расследование политических и уголовных дел, а за абвером — военная разведка и контрразведка. Последняя примерно до середины Второй мировой войны оставалась основной спецслужбой Третьего рейха по осуществлению военной разведки за границей.
Впрочем, конфликты с СД и гестапо полностью устранить не удалось. В конце 1936 г. в резиденции абвера нашли микрофоны. Разразился скандал, в который пришлось вмешаться Гитлеру. Но и после этого настороженность в отношениях между спецслужбами сохранялась.
При Канарисе разведка заметно активизировалась. Используя высотные самолеты-разведчики, немцы время от времени проводили аэрофотосъемку территорий Польши, Франции, Великобритании, Чехословакии. В Гибралтарском проливе разместили фотоаппаратуру для съемки проплывающих судов. Аналогичную технику нацисты применят и на побережье Ла-Манше после оккупации Франции. Фотографирование могло осуществляться и в инфракрасных лучах. Специально для разведки было изготовлено оборудование, позволявшее делать фотоснимки размером около 1 мм, которые использовались для передачи информации от резидентов за границей.
Разведка активно вела промышленный шпионаж, к которому привлекались возможности германских фирм. Крупные компании всегда имели разведотдел, поставлявший сведения не только хозяевам, но и абверу. Разведка против Франции не представляла сложности. Под видом торговцев, туристов, журналистов туда часто засылали агентов. С Великобританией дела обстояли хуже. На этом направлении «палки в колеса» вставляла английская контрразведка МИ-5. Да и географические особенности расположения острова затрудняли работу. МИ-5 с помощью радиоигры выявила почти всех нацистских агентов (1 20). Через некоторых из них англичане снабжали немцев дезинформацией. Перевербованный немецкий агент Вольф Шмидт с 1940 г. и до конца войны исправно сообщал своему нацистскому начальству информацию, согласованную с британской контрразведкой. Можно привести множество других примеров: все дело в том, что польские, французские и английские специалисты совместно раскрыли коды шифровального аппарата «Энигма», распространенного в вооруженных силах Третьего рейха. Именно поэтому многие тайные планы Германии переставали быть таковыми.
В 1930-е гг. абвер интересовался в США по преимуществу экономическими вопросами, уделяя основное внимание возможностям американской промышленности по производству военной техники. Сведения шли как через немецкие компании, участвовавшие в международных концернах, так и от агентов, которых чаще засылали через Аргентину и Бразилию. Сперва их легализовывали в этих странах. Тактика заброски разведчиков напрямую себя не оправдала. Так, в 1942 г. на американский берег с субмарины высадили 8 диверсантов, но их задержали в течение 2 недель.
Нейтральные государства также попадали под наблюдение немецких спецслужб. В 1940 г. сотрудники их разведки уничтожили мостовое сооружение с железнодорожными путями в Южной Франции, чтобы помешать поставкам в Британию швейцарского агата, который применялся во взрывателях зенитных снарядов. Одним взрывом убили 2 зайцев, поскольку, кроме самого виадука, подорвали грузовой поезд с сырьем.
Перед Второй мировой войной руководитель абвера наладил тесные контакты со спецслужбами Эстонии, Японии, Испании, Румынии, Австрии, Финляндии, Венгрии, Италии. Когда Германия захватила Австрию, начальник австрийской разведки передал немцам всю документацию спецслужб министерства обороны.
В абвере предполагали, что из русских военнопленных можно будет завербовать многих агентов, которые, по идее, должны были быть подавлены успехами немецкой армии и негативно относиться к советской власти. Расчеты оказались ошибочными. Г. Гиммлер в директиве от 18 декабря 1941 г. отмечал: «Пленные, в особенности молодое поколение, беззаветно преданы большевикам. Они способны на всякую низость.»
Еще до абвера Канарис завел связи с испанскими спецслужбами, влиятельными военными и политиками, сформировал в Испании агентурную сеть. Как раз благодаря этим связям удалось подготовить путч генералов, во главе которого поставили генерала Ф. Франко. Германия, оказав помощь Испании в ходе гражданской войны, до конца Второй мировой войны использовала ее в качестве основной базы для противодействия Великобритании и США.
4 февраля 1938 г. в Германии образовали Верховное командование вооруженных сил (ОКБ), в которое Абвер вошел как Управление разведки и контрразведки, встретив войну в качестве Управления ОКБ «Заграница-абвер». Состояло оно из центрального аппарата из 5 отделов, напрямую подотчетных Канарису. Отделу абвер-1 (А-1) поручили создавать резидентуры за границей и добывать необходимые сведения о других странах. Он дробился на 12 подотделов: 1-Z выполнял общее руководство, 1-Н ост, 1-Н вест и 1-Н норд — агентурную разведку в соответствующих регионах, 1-L — разведку для воздушных сил. Разведкой для военно-морских сил ведал подотдел 1-M, 1-KO занимался вопросами мобилизации, 1-G — снабжением агентов всеми необходимыми предметами, например фальшивыми документами, изготавливавшимися в специальной лаборатории. Подотделы 1-L и 1- L/Lw проводили разведку с использованием разнообразной техники, в частности аэрофотосъемки, 1-i осуществлял радиосвязь с агентами, a 1-Wi занимался промышленным шпионажем.
В зону ответственности отдела абвер-2 входила диверсионная работа за рубежом и в тылу войск противника, а также психологическая война.
Состоял он из подотделов: администрации (2-А), «Вест», «Ост» и «Зюйд-ост», морского подразделения, лаборатории. Кроме того, отдел контролировал диверсионную школу (2-Те), эскадрилью «Гартенфельд», которая занималась заброской агентов, и полк особого назначения «Бранденбург-800».
Отдел абвер-3 проводил контрразведывательные мероприятия в армии и военной промышленности, присматривал за неразглашением военной тайны и организовывал внедрение агентов в иностранные спецслужбы. Когда полыхнула Вторая мировая война, этот отдел занялся борьбой с антифашистами в самой Германии и на оккупированных территориях, плотно взаимодействуя с тайной государственной полицией и службой безопасности. Он состоял из 15 подотделов. Общее руководство осуществлял 3-А, 3-В занимался общими вопросами безопасности, 3-Н — контрразведкой в сухопутных войсках, 3-L — контрразведкой в военно-воздушных силах. Контрразведкой на флоте ведал подотдел 3-М, контрразведывательной защитой промышленности — 3-Wi. Аналитикой занимался 3-G, 3-D осуществлял дезинформацию противника, 3-N и 3-К — контрразведку в СМИ и на радиовещании. Учебная структура отдела была на попечении 3-U, военная безопасность — 3-Z, контрразведка и вербовка агентов в лагерях для военнопленных — 3-К, зарубежная контрразведка (внедрение в спецслужбы) -3-F, радиоперехват и расшифровка сообщений — 3-F/Fu.
В 1936 г. в при абвере-3 организовали полевую тайную (военную) полицию для содействия контрразведке в осуществлении арестов и допросов. Численность полиции в середине Второй мировой войны достигала 7000 человек. Однако в 1942 г. ее функции перешли к СД.
Отдел «Заграница» включал в себя 17 подотделов, работал с МИДом, давал указания военным атташе, собирал информацию из доступных источников (литературы, радио).
Основной отдел абвера — отдел Z, в структуру которого входили 7 подотделов. Направления деятельности — административные, кадровые, финансовые, юридические вопросы, ведение центрального архива и документации на агентов.
Абвер поучаствовал в подготовке оккупации Чехословакии, развязывании войны с Польшей и Францией. Несомненным успехом немецкой спецслужбы можно считать захват архива польской разведки, ликвидировать который не успели. Немцы обнаружили бункер, где хранился архив. Материалы перевозили в Германию на 6 грузовых машинах. Нацистам оказались весьма полезными сведения о польских агентах в СССР и Европе, о расположении советских и британских воинских частей. Полученная информация учитывалась при планировании операций «Морской лев» (предполагавшееся вторжение на острова Туманного Альбиона) и «Барбаросса» (нападение на СССР). Часть раскрытых польских агентов была перевербована.
Практически сразу после начала войны с СССР абвер потерял весомую долю своего значения. В июне 1941 г. командование вооруженными силами Германии, ревностно наблюдавшее за ростом влияния руководителя разведки, недовольное его вмешательством в военные вопросы и испытывавшее «головокружение» от успехов немецкой армии на Западе, «продавило» директиву, в соответствии с которой за абвером закреплялась агентурная работа исключительно в прифронтовой зоне. Таким образом ранее обширная деятельность абвера теперь свелась к стандартной тактической разведке под контролем военных. Впрочем, в сентябре 1941 г., когда голова у нацистов перестала кружиться, Гитлер отменил директиву.
Еще до непосредственных боевых действий в СССР немецкая разведка стала забрасывать на территорию противника многочисленные диверсионно-разведывательные группы и отдельных террористов. Перед ними ставилось множество задач. Они оборудовали склады оружия, места для парашютных десантов, производили взрывы, нарушали связь, размещали ориентиры для воздушных бомбардировок на военных, промышленных и транспортных объектах. Также они отравляли воду, привлекали к сотрудничеству кадры, которые подавали бы сигналы и указывали цели для самолетов, формировали антисоветские банды, совершали поджоги.
Начиная с мая 1941 г., диверсанты приступили к своей работе. Например, в Таурагском уезде Литовской ССР, расположенном вдоль границы с подконтрольной немцам территорией, огнем были уничтожены приблизительно 400 га леса, в Тракайском уезде — 200 га. Пожары, устроенные «засланцами», тушили всем миром: пограничники, военные, местные жители, которые к тому же очень помогли в поимке террористов. В период с 18 по 22 июня 1941 г. на минском направлении чекисты нейтрализовали 211 диверсионных групп и одиночек.