Печальным эпизодом биографии Яковлева стало участие вместе с марристами в избиении Е. Д. Поливанова в начале 1929 г. (подробнее см. очерк «Метеор»). Николай Феофанович заявил, что у него есть расхождения с академиком и его трудно назвать правоверным марристом, но «выгода не в материально добытых фактах, а в том направлении, которое Николай Яковлевич придал своему исследованию. Его живая мысль так увлекает всех окружающих лингвистов». После дискуссии Поливанов покинет Москву, а научное руководство языковым строительством сохранится за Яковлевым.
До рубежа 20-х и 30-х гг. направленность идей и интересов Яковлева соответствовала общей линии государственной политики. Но расхождение по вопросу о латинизации русской письменности было не случайным. Интернационализм сменялся национализмом. Научное новаторство, независимость характера, непризнание авторитетов – все это приходилось ко двору в первое послереволюционное десятилетие, когда шла борьба со старой наукой. Теперь стали поощряться гибкость и умение повторять последние лозунги вождей, не свойственные ни Поливанову, ни Яковлеву. А по отношению к Марру Яковлев мог быть сторонником, но не верноподданным, поэтому марристы не могли его считать «своим». Еще в 1927 г. Марр оттеснил его от руководства Комитета по изучению языков и культур Северного Кавказа: комитет был преобразован в Институт этнических и национальных культур народов Востока во главе с Марром, который жил в Ленинграде и приезжал редко. Яковлев стал там лишь вторым заместителем директора, затем только заведующим кавказским сектором. Институт несколько раз реорганизовывался, менял названия, в конце концов, превратившись уже после смерти Марра в Московское отделение академического Института языка и мышления. В 30-е гг. институт стал основным местом работы Яковлева.
С 1930–1931 гг. начинаются проработки Яковлева со стороны марристов. Целую бурю вызвала разработанная им программа для сбора словарного материала по языкам горских народов Кавказа. Он разработал словник, разбитый по рубрикам «Материальная культура» и «Духовная культура». В последнем разделе 7 % составили слова, связанные с новой эпохой, а 93 % – названия предметов и явлений традиционной культуры. В ответ московский маррист И. К. Кусикьян заявил: «93 % махровой поповщины», а начинающий ростовский последователь Марра Г. П. Сердюченко по поводу включения политической лексики в раздел «Духовная культура» написал: «Не известно ли проф. Яковлеву, что с точки зрения марксизма-ленинизма “политика есть концентрированная экономика” (см. программу партии)? “Отрыв экономики от политики есть характернейшая черта буржуазных теоретиков и их социал-фашистских лакеев”, – говорит тов. Каганович… И на позицию этих социал-фашистских лакеев и встал Яковлев в своей статье». Вывод Сердюченко: «Программа Яковлева действительно не встретила бы возражений и у святейшего синода». Кусикьян же действовал на грани доноса, сопоставляя его работы с трудами «белогвардейского профессора бывш[его] князя Н. Трубецкого».
Тогда подобные обвинения были в порядке вещей и вовсе не вели к лишению работы и тем более к аресту, как сейчас иногда думают. Но работать в такой обстановке было трудно, а карьера Яковлева в 30-е гг. уже не была столь блестящей, как в предыдущее десятилетие. Иногда он пытался быть «святее папы». В его грамматиках кавказских языков 30–40-х гг. почти любое грамматическое явление иллюстрируется либо предложениями из газетных передовиц и партийных постановлений, либо сконструированными примерами про рабочих или колхозников. Это для того времени даже не было обязательно: преемник Марра по руководству советским языкознанием академик И. И. Мещанинов иллюстрировал свои труды изящными примерами из Поля Бурже и других французских романистов, считая излишним их переводить. Но Мещанинов был тогда вне критики, а Николаю Феофановичу надо было предупредить новые обвинения в «махровой поповщине». И некоторые его рассуждения сейчас выглядят очень упрощенными. Дважды он приводил один и тот же пример того, как логическая и грамматическая структура предложения может не совпадать с реальной: в «языке буржуазии» существует фраза: Фабрикант изготовляет мебель, хотя на самом деле ее изготовляют рабочие. Но не надо смеяться над ученым: по сути он излагает важное, а для того времени новаторское положение о том, что семантическая, синтаксическая и коммуникативная (логическая) структуры не совпадают ни друг с другом, ни с отношениями в реальности.
В 1937–1938 гг. «снаряды падали рядом». Был распущен Всесоюзный центральный комитет нового алфавита, а его руководители репрессированы. У Яковлева погибли муж сестры и брат первой жены, кандидат в члены ЦК и первый секретарь обкома в Одессе. Сама В. И. Вегер осталась жива, но ее выслали из Москвы вместе с двумя дочерьми от Яковлева; правда, они к тому времени разошлись, а Николай Феофанович женился во второй раз (от этого брака была еще одна дочь). Яковлев не пострадал, но его положение в науке начало идти вниз. Со второй половины 30-х гг. в числе прочего возврата к прошлому была восстановлена система ученых степеней (с тех пор не менявшаяся). Поначалу степень доктора наук видным ученым давали без защиты (даже вернувшемуся из ссылки В. В. Виноградову и вернувшемуся из-за границы Н. А. Невскому). А Яковлев такую привилегию не получил, из-за чего он временно даже потерял имевшееся у него с 20-х гг. звание профессора. Лишь после войны он защитит в качестве докторской диссертации кабардинскую грамматику и восстановится в профессорском звании.
Менялась и языковая политика. После 1933 г. создание алфавитов пошло на спад, для некоторых языков новые алфавиты реально не вступили в действие, а образование на этих языках заменялось обучением на русском языке. А с 1937 г. недавно введенные латинские алфавиты срочно менялись на кириллические, эта работа в основном была завершена накануне войны. Она соответствовала новой политической ситуации: о выходе народов на мировую арену и интернационализме уже не думали, главным было сближение народов внутри единого государства и повышение роли русского языка. Новые алфавиты создавались не с нуля, учитывался опыт создания алфавитов на латинской основе, кое-что брали оттуда, включая яковлевскую палочку. Яковлев принимал участие и в их конструировании, но научный уровень алфавитов в целом упал: единый государственный орган после роспуска в 1937 г. восстановлен не был, а утверждение кириллических алфавитов отдали в руки местных органов власти, обычно не отличавшихся компетентностью. Началась и сознательная, и иногда искусственная русификация новых литературных языков. Часто под русский язык подгоняли даже грамматику. И Яковлеву приходилось писать, например: «Дательный падеж в марийском языке представляет собою сравнительно недавнее вторичное образование. Однако дательный падеж должен быть включен в основные падежи, исходя из перспектив всего дальнейшего развития марийского языка и его связей с русским языком».
Но в 30-е гг. Яковлев создал и пять фундаментальных грамматик кавказских языков, составивших значительный вклад в мировое кавказоведение. Из них тогда удалось издать лишь две грамматики полностью и одну частично. Вышли фундаментальная адыгейская грамматика совместно с адыгейским учеником Д. А. Ашхамафом (1941), кабардинская грамматика сначала в кратком варианте (1938), а после войны (1946) полностью, и один том (из двух) чеченской грамматики (1938). Второй том чеченской грамматики и ингушская грамматика не вышли сначала из-за войны, потом из-за трагедии чеченцев и ингушей в 1944 г. По иным причинам не повезло абхазской грамматике. В 1935 г. она уже была сдана в набор, но вмешался директор Абхазского НИИ, ученик Марра А. К. Хашба, написавший отзыв, зачеркивавший книгу. Отзыв Хашба (без рукописи Яковлева!) послали на третейский суд в Ленинград И. И. Мещанинову, взявшему сторону абхазского коллеги. Сохранившийся ответ Мещанинова показывает, что главная вина Николая Феофановича состояла в попытках спорить с уже покойным Марром: «Вполне правильны указания А. К. Хашба на неуместные нападки проф. Яковлева на метод палеонтологического анализа… Неуместны и совершенно неправильны утверждения проф. Яковлева, ограничивающие работу акад. Н. Я. Марра по абхазскому языку только составлением алфавита». Грамматика не вышла.
Отчуждение Яковлева от научных лидеров тех лет было двусторонним, а положение Яковлева среди московских лингвистов оказывалось все более обособленным. Он был вспыльчив, неуживчив, остер на язык, имел славу человека с плохим характером. А то главное, что придавало ему научный вес, уже сходило на нет: работа по созданию алфавитов заканчивалась. Впрочем, у него было свое научное окружение. Продолжалось содружество с Л. И. Жирковым, и появился новый сотрудник: не кто иной, как Г. П. Сердюченко, когда-то побивавший ученого цитатами из Л. М. Кагановича. Перебравшись из Ростова в Москву, он сумел сдружиться с Яковлевым и использовать его в своих целях. Впоследствии эта дружба дорого обойдется Николаю Феофановичу.
Наступила война. Яковлев был призван, но не попал на фронт, а в 1942 г. демобилизовался. В военные и послевоенные годы он уже не конструировал алфавиты, в то же время усилилась преподавательская деятельность. Он был профессором двух московских вузов – Московского института востоковедения и Военного института иностранных языков, где читал курс общего языкознания (продолжалась и работа в Институте языка и мышления, где Яковлев заведовал кавказским сектором). В обоих институтах подобрался сильный преподавательский состав, но все же для языкознания они занимали периферийное место по сравнению с МГУ и даже Институтом иностранных языков, но там Яковлев не работал.
Еще живы некоторые из студентов и слушателей, посещавших лекции Яковлева. Не будучи хорошим лектором, он производил на них сильное впечатление и многим запомнился. Попав в аудитории из московских коммуналок и фронтовых окопов, они окунались в атмосферу высокой науки, слушали рассказы о фонеме и морфеме, о Бодуэне де Куртенэ и Соссюре, о разных языках. Не избегал он упоминания и «врагов народа», включая Поливанова (в жизни они не ладили, но его работы Яковлев ценил). Но чувствовался в этом человеке надлом, не вязавшийся с его рангом профессора (в 1946 г. он баллотировался и в члены-к