По возвращении из-за границы Богданов приступил к разработке отечественной орнитологии. Университетская коллекция птиц была приведена в относительный порядок, но обработка коллекции Зоологического музея, гораздо более обширной и полной, требовала еще серьезных усилий и времени.
Большой хаос царил и в орнитологической литературе. Описания отдельных видов у разных авторов противоречили друг другу, что очень затрудняло определение. Одни и теже формы подчас определялись как разные виды, границы их распространения указывались нечетко. Богданов должен был провести большую подготовительную работу.
В первую очередь он взялся за приведение в порядок коллекции птиц Кавказа, собранной еще во время путешествия 1870 г. В то время он расценивал свою поездку как рекогносцировку и не спешил с опубликованием ее результатов, надеясь посетить Кавказ вторично. Позже изучение Средней Азии отвлекло его от этой работы. Теперь же орнитологические коллекции Зоологического музея давали возможность в значительной степени дополнить кавказские материалы. На этой основе Богданов написал первую из трех своих крупных орнитологических работ — монографию «Птицы Кавказа». Она вышла в свет в 1879 г. В ней был дан анализ и критическая оценка всей известной в то время орнитологической литературы, описаны 323 вида птиц, для каждого вида приведена подробная синонимика названий и литературные источники, уточнены описания видов и места их обитания. Это была первая, но настолько полная систематическая сводка по птицам Кавказа, что она надолго стала настольной книгой русских орнитологов. М. Д. Рузский писал о ней четверть века спустя после ее публикации: «Описание птиц Кавказа принадлежит к лучшим фаунистическим произведениям и до сего времени является основной работой по орнитологии Кавказа» (II, 33, стр. 265). Не утратила она своего значения и до наших дней.
В 1881 г. была опубликована вторая монография из серии орнитологических работ Богданова — «Сорокопуты русской фауны и их сородичи», его докторская диссертация, которую он защитил в апреле того же года. Она представляет собою наиболее полный и интересный по широте охвата биологических вопросов труд Богданова. Материалом для нее послужила орнитологическая коллекция Зоологического музея Академии наук, где группа сорокопутов, обитающих в России, была представлена наиболее полно.
Первоначально Богданов ставил себе задачу проверить на небольшой группе птиц выработанные им принципы классификации, но результаты исследования вышли далеко за рамки этой цели.
Для разработки системы семейства сорокопутов Богданов тщательно изучил описания всех русских видов, сравнил эти описания у разных авторов с коллекционными экземплярами, проследил степень изменчивости пластических признаков и окраски у отдельных видов. Анализ видовых признаков превратил чисто систематический по замыслу труд в зоогеографический и помог Богданову разобраться в вопросах филогении.
В результате сравнения «оказалось, что виды располагаются в правильные ряды, в которых можно проследить постепенное (изменение признаков: регресс одних и прогрессивное развитие других; и, что особенно важно, эти ряды явлений, изменения родового типа, находятся в известных отношениях с географическим размещением видов» (I, 83, стр. XI). Сопоставив характер изменения признаков внутри родов и видов с географическим распространением, Богданов построил генеалогию каждого рода и вида, указал предполагаемые пути расселения до пределов существующих родовых ареалов, нарисовал картину эволюции семейства сорокопутов и их постепенного расселения на Европейско-Азиатском материке. Он описал облик исходной родоначальной формы всего семейства и указал место ее предполагаемого обитания: «В отдаленные времена (вероятно, в ранние эпохи третичного периода) на материке, бывшем на месте Формозы и других островов Тихого океана, существовал сорокопут, обладавший уже выработавшимися прочно признаками семейства, т. е. толстым клинообразным клювом и связанной с этой формой клюва хищностью. Окраска этой птицы была однообразная, тусклая, буроватая. Все перья, покровные и хвостовые, были окрашены белыми полосками. Крыловые перья, особенно кроющие крыла, имели светлые каймы» (I, 83, стр. 196—197).
В семействе сорокопутов М. Н. Богданов видел иллюстрацию дарвинского принципа дивергенции признаков под влиянием новых экологических условий: «Сорокопуты представляют наследное доказательство того, что изменение типичных признаков находится в тесной связи с расселением вида за пределы области. Следовательно, изменчивость типа есть результат расселения или движения по земной поверхности. Вступая в соседнюю область, масса особей вида встречает там новые условия, новую группировку организмов; все это вызывает новые привычки у колонистов; изменение привычек нарушает физиологический строй жизни в организме, а это порождает изменения и во внутренней организации и в наружных формах и покровах. Таким образом, сознавая тесную связь движения организмов по земле с их изменчивостью, мы приходим к пониманию истинных задач зоогеографии» (I, 83, стр. 197—198).
В чем же состоят, по Богданову, эти «истинные задачи зоогеографии»? Какую роль должно играть географическое районирование фауны? Какие принципы должны лежать в его основе? И что представляет собою зоогеографическая область в ее биологической сущности?
Как мы видели, в своей магистерской диссертации М. Н. Богданов внес исторический принцип в изучение фауны, указав на необходимость учета геологического прошлого страны, как важного определяющего фактора в распределении животных форм. Это один из принципов, который непременно должен лежать в основе всякого зоогеографического исследования.
В книге «Сорокопуты русской фауны и их сородичи» Богданов обстоятельно рассмотрел другую, не менее важную проблему зоогеографии. Проследив изменение признаков сорокопутов при расселении их на обширной территории, он более глубоко раскрыл органическую связь конкретных условий существования с образованием определенных форм организмов.
Тесная зависимость организма от характера района обитания особенно ярко раскрылась перед Богдановым в процессе изучения фауны пустынь Средней Азии.
Исследование пустынной фауны позволило выявить еще одну черту, присущую целым зоогеографическим областям, которая, однако, подчас ускользает даже от внимательного глаза. Это тесная связь организмов между собою и своеобразие их сложных взаимоотношений, то, что в дальнейшем было сформулировано в понятии биоценотических связей и легло в основу учения о биоценозах.
В труде о сорокопутах Богданов определяет зоогеографическую область как понятие, в котором синтезируется представление о современной группировке фауны и о взаимоотношениях между организмами в фаунистическом комплексе, сложившихся в результате длительного процесса исторического развития.
Зоогеографическая область, по его определению, есть «мирок, с обособленными условиями, с известной группировкой форм, с определенным строем жизни... сложный организм, в котором нет механической связи между элементами, но есть связь биологическая, и притом связь, слагающаяся исторически» (I, 83, стр. 198).
Задачей зоогеографа Богданов считал раскрытие характера фаунистического комплекса во всей сложности его внутренних и внешних взаимоотношений.
Таким образом, в книге о сорокопутах сделан новый шаг вперед в разработке принципов эволюционной зоогеографии. Автор поднялся до понимания всей сложности биологических закономерностей в формировании высших степеней биологического единства — фаунистических комплексов, в которых каждый отдельный вид находится в отношениях тесной взаимосвязи и взаимозависимости со всеми другими организмами, рядом с ним обитающими.
Раскрытие характера этих отношений является задачей экологического исследования. Только соединение Двух принципов — исторического и экологического — может дать правильное понимание основ эволюции как отдельных групп животных, так и целых фаун. Богданов первый из русских эволюционистов объединил оба эти принципа.
При изучении семейства сорокопутов Богданов подметил ряд признаков, изменения которых не имели никакой видимой связи с внешними условиями, хотя и были весьма стойкими. Он предположил наличие в данном случае внутренней физиологической корреляции, когда изменение одного из признаков непременно вызывает изменение другого для поддержания анатомического и физиологического равновесия.
Разнообразные теоретические вопросы, рассмотренные Богдановым в монографии, имели важное общебиологическое значение. Выход книги был большим событием в русской зоогеографической литературе.
Параллельно с разработкой систематики русских сорокопутов М. Н. Богданов был занят подготовкой еще более обширного труда.
Первоначально у него возникла мысль об издании силами зоологов Петербургского общества естествоиспытателей большой монографии «Орнитология северной России». В подобном издании ощущалась насущная потребность. Кроме того, оно должно было объединить интересы ряда зоологов и придать работе Зоологического отделения Петербургского общества естествоиспытателей более определенную направленность. Богданов видел, что у отделения нет единого теоретического направления и члены его ведут свои исследования в отрыве друг от друга, занимаясь подчас мелкими, не имеющими принципиального значения вопросами, между тем как основная задача общества— изучение фауны северных областей России — остается забытой. Он призывал к объединению усилий для решения этой большой и нужной задачи. С этой целью Богданов предложил заняться составлением обстоятельного труда по орнитологии. По его замыслу, этому изданию следовало придать форму руководства, чтобы оно помогло привлечь к наблюдениям над птицами натуралистов-любителей, которые, интересуясь явлениями природы, не имеют необходимой литературы.
Комиссия, созданная Богдановым, составила «Проект орнитологии северной области Европейской России». Планируемое издание должно было подвести итоги тому, что было известно о фауне птиц севера, и наметить направление будущих исследований. Кроме того, оно должно было содержать ряд практических советов по технике наблюдений и обработке материала.