Трилиссер стал фактическим основателем советской разведки. Он родился в Астрахани 1 (13) апреля 1883 года в семье сапожника. Родители Трилиссера были очень небогаты, чтобы платить за обучение детей в городском училище, им приходилось сдавать одну из двух своих комнат квартирантам. Таким жильцом оказался астраханский социал-демократ Борис Авилов, общение с которым сильно повлияло на братьев Трилиссеров, ставших большевиками. Меер Трилиссер окончил городское училище в Астрахани и сдал экстерном экзамены за 6 классов гимназии в Одессе. Там же он вступил в социал-демократическую группу (1901) и в том же году был первый раз арестован охранкой (выслан по этапу в Астрахань). Там он вел пропаганду среди рабочих, затем вел партийную работу на Урале, где был арестован в 1904 году и вновь выслан в Астрахань. Трилиссер активно участвовал в революции 1905 года, работая в Военной организации большевиков в Казани, Петербурге и Гельсингфорсе. В столице Великого княжества Финляндского он был председателем Центральной группы Финляндской военной организации РСДРП, издавал газету «Вестник казармы». Трилиссер руководил подготовкой 1-й Всероссийской конференции военных и боевых организаций РСДРП в Таммерфорсе (ноябрь 1906 г.), был избран председателем Временного бюро Военной организации. В августе 1907 года он был арестован и после двух лет заключения приговорен Петербургским военно-окружным судом к восьми годам каторги, которую отбывал в Шлиссельбургской крепости. В конце 1914 года сослан в Иркутскую губернию на вечное поселение. После Февральской революции он остался в Иркутске, редактировал газету «Голос социал-демократа», работал в Иркутском Совете. Участвовал в установлении советской власти в Иркутске, подавлении восстания юнкеров, был членом президиума ЦИК Советов Сибири (Центросибири), занимался формированием органов борьбы с контрреволюцией в Иркутске. После падения советской власти в Сибири работал в большевистском подполье в Благовещенске, был арестован японскими оккупационными властями, вместе с другими арестованными большевиками бежал из тюрьмы, воевал в партизанских отрядах. После восстановления советской власти в Благовещенске был председателем Амурского обкома партии, представителем ЦК в Амурской области, комиссаром по иностранным делам Амурского Совета, представителем правительства Дальневосточной Республики в Амурской области. С октября 1920 года работал в столице ДВР Чите — членом Дальбюро ЦК РКП (б) и Госполитохраны ДВР (аналог ВЧК). После X съезда партии, делегатом которого был избран Трилиссер, он остался в Москве, где работал в ЦК партии и Коминтерне, занимался Дальним Востоком. С августа 1921 года работал в ВЧК начальником отделения Особого отдела, начальником Закордонной части ИНО, помощником начальника ИНО.
В ИНО пришла большая группа соратников. Трилиссера по дореволюционному подполью и работе во время Гражданской войны и интервенции на Дальнем Востоке. Сергей Вележев и Алексей Логинов (настоящая фамилия— Бустрем) стали его заместителями. Альфред Нейман, Евгений Фортунатов, Яков Минскер, Яков Бодеско, Арпад Мюллер и другие стали ответственными работниками отдела. При Трилиссере Иностранный отдел был значительно расширен и укреплен кадрами. Центральный аппарат в период его руководства отделом достигал 70 человек. А к моменту ухода Трилиссера из ИНО (1929) общий штат ИНО достиг 122 человек, из них 62 человека — сотрудники резидентур за рубежом. Была изменена структура ИНО. В середине 20-х годов она состояла из закордонного отделения, канцелярии закордонного отделения, бюро виз, стола выездов, стола въездов, стола въездов и выездов эшелонами, стола приема заявлений, общей канцелярии.
Помощниками Трилиссера в ИНО были Георгий Евгеньевич Прокофьев и Владимир Сергеевич Селезнев. Закордонное отделение ИНО возглавлял сам Трилиссер, бюро виз — Николай Угаров. Позднее помощниками Трилиссера в разное время были Иван Васильевич Запорожец, Михаил Савельевич Горб, Алексей Васильевич Логинов-Бустрем и Сергей Георгиевич Вележев.
По предложению Дзержинского 26 марта 1926 года Трилиссер был назначен зампредом ОГПУ. В июле 1927 года Иностранный отдел был выведен из состава Секретно-оперативного управления ОГПУ и передан в непосредственное подчинение Коллегии ОГПУ.
И января 1923 года было создано специальное Бюро по дезинформации, в состав которого вошли представители от ЦК партии, НКВД, а также РВСР и Разведупра Штаба РККА. Позднее этот орган сыграл важную роль в знаменитых операциях «Трест» и «Синдикат», а также в других операциях: «Д-7» (1924-4929) с участием легендированной «Военной организации» бывших офицеров-монархистов в Ленинграде; «С-4» (1924—1932) с участием легендированной «Внутренней русской национальной организации» (ВРИО); операции «Заморское» (1929—1932) с участием легендированной антисоветской организации «Северо-Кавказская военная организация» (СКВО); операции «Академия» (1929—1934).
Операция «Трест» была проведена для нейтрализации подрывной деятельности монархических организаций за рубежом, таких, как «Высший монархический совет», «Русский общевоинский союз» (РОВС) и другие. В процессе проведения этой операции удалось вывести на советскую территорию и захватить английского разведчика Сиднея Рейли. Важнейшее значение «Треста» заключалось также в том, что вплоть до 1927 года удавалось парализовать деятельность террористов РОВСа, руководимых Марией Захарченко-Шульц.
Целью операции «Синдикат-2» была нейтрализация деятельности эсеровского «Народного союза защиты родины и свободы». В ходе операции были арестованы главарь союза Борис Савинков и ряд его сподвижников. Серьезный удар был нанесен и по РОВ Су, который объединил остатки бежавших за границу белых армий и ставил своей задачей проведение на территории СССР террористических и других подрывных акций, а также подготовку военной интервенции. При помощи агентуры внешней разведке удалось обезглавить эту организацию. Так, в 1930 году в Париже была проведена операция по захвату и доставке в СССР руководителя РОВСа генерала Кутепова. (Генерал погиб во время проведения операции.) А в 1937 году преемник Кутепова генерал Миллер был тайно вывезен в СССР и после следствия расстрелян. Особую роль в операциях против РОВСа сыграли агенты Иностранного отдела, бывшие царские генералы Павел Дьяконов и Николай Скоблин, жена Скоблина, известная исполнительница русских народных песен Надежда Плевицкая, а также находившийся в эмиграции бывший член Временного правительства и правительства Колчака Сергей Третьяков.
В это же время в структуре разведки появляется научно-техническое направление. Начинаются контакты с органами безопасности дружественных (в то время) государств— Монголии, Турции, Литвы.
27 октября 1929 года Трилиссера сняли со всех постов в ОГПУ за открытое выступление против Генриха Ягоды. В феврале 1930 года его назначили заместителем наркома РКИ РСФСР (с 1927 года он был членом ЦКК ВКП(б), с 1930года— членом Президиума ЦКК). В 1934— 1935 годы Трилиссер, избранный на XVII съезде партии членом Комиссии советского контроля при Совнаркоме СССР, был уполномоченным КСК по Дальневосточному краю. После VII конгресса Коминтерна работал в Президиуме и Секретариате Коминтерна (под псевдонимом Москвин), курировал деятельность Польско-прибалтийского секретариата и Отдела международных связей Исполкома Коминтерна. В ноябре 1938 года Меер (Михаил) Абрамович Трилиссер был арестован и 2 февраля 1940 года расстрелян по приговору Военной коллегии Верховного суда СССР. Посмертно реабилитирован в 1956 году.
На посту начальника ИНО и зампреда ОГПУ Трилиссера сменил Станислав Адамович Мессинг.
Он родился в Варшаве в 1890 году в семье музыканта. Учился в гимназии (не окончил), работал в типографии. В 1907 году вступил в «Социал-демократическую партию Королевства Польского и Литвы, арестовывался полицией, жил в эмиграции в Бельгии (1908—1911), в 1913— 1917 годы служил в русской армии в Туркестане и. на Кавказском фронте. Участвовал в Октябрьской революции в Москве. С 1918 года по предложению Дзержинского, знавшего Мессинга по варшавскому подполью, работает в ЧК. Руководил Сокольнической районной ЧК, был заместителем председателя и председателем Московской ЧК, с конца 1921 года до конца 1929 года руководил органами ЧК-ГПУ в Петрограде-Ленинграде, с 1920 года был членом Коллегии ВЧК-ОГПУ.
Мессинг провел реорганизацию Иностранного отдела. В январе 1930 года был объявлен новый штат ИНО (94 сотрудника). Вместо Закордонной части и Отделения иностранной резидентуры было создано 8 отделений. Заместителем начальника стал Артур Христианович Артузов, помощниками начальника Абрам Аронович Слуцкий и Михаил Савельевич Горб.
Начальниками отделений ИНО стали:
1- е отделение (нелегальная разведка) — Л. Г. Эльберт,
2- е отделение (вопросы выезда и въезда в СССР)— И.А.Бабкин,
3- е отделение (США и крупнейшие государства Европы) — М. Г. Молотковский,
4- е отделение (Финляндия и страны Прибалтики) — А. П. Невский,
5- е отделение (белая эмиграция) — А. П. Федоров,
6- е отделение (страны Востока) — К. С. Баранский,
7- е отделение (экономическая разведка) — А. А. Нейман,
8- е отделение (научно-техническая разведка) — А.М.Орлов.
Штат отдела составил 121 человек.
Эти меры были приняты после заседания Политбюро ЦК ВКП(б) 30 января 1930 года, на котором была рассмотрена работа разведки, в решении были определены главные задачи разведывательной работы. В постановлении Политбюро отмечалось, что Советский Союз находится на пороге новой войны, рекомендовалось переводить работу заграничных аппаратов ИНО из советских учреждений на нелегальное положение. Увеличилось финансирование разведки. Была создана самостоятельная спецгруппа под руководством Якова Исааковича Серебрянского, вошедшая в историю советской разведки как «группа Яши», для развертывания диверсионно-террористической деятельности в глубоком тылу противника на случай начала войны с «западными демократиями». Первоначально эта группа действовала в составе ИНО ОГПУ, но позднее она перешла в непосредственное подчинение наркома внутренних дел СССР, а с 1937 года при секретариате Наркомата внутренних дел. За это время Серебрянский и его сотрудники создали двенадцать резидентур в Европе, Азии и Америке.