Однако другие руководящие товарищи деятельность Семёнова в качестве военного советника оценили иначе. После возвращения из Китая его перевели в центральный аппарат Разведупра РККА и вскоре назначили на должность помощника начальника 2-го (агентурного) отдела Б. Б. Бортновского. В Управлении он проработал до мая 1929 года. В апреле 1929 года состоялась XVI партконференция, на которой было принято решение о второй чистке партии. Первая состоялась в 1921 году, но тогда Семёнов под неё не попал. Теперь же, поскольку он был замечен в числе активных сторонников правой оппозиции, партячейка Разведупра исключила его из рядов ВКП(б). В мае его уволили. Несколько месяцев Семёнов вёл непрерывную борьбу за восстановление в партии, безуспешно апеллируя в районную контрольную комиссию, во Фрунзенский райком и, наконец, к парттройке МКК ВКП(б). Только эта последняя инстанция, учтя его прежние заслуги и выслушав 5 сентября 1929 обязательство «в практической работе проводить линию партии», приняла решение ограничиться строгим выговором с предупреждением.
Разведка, равно как и другая серьезная работа, теперь для Семенова была недоступна. И тогда он, в поисках дела, где мог в полной мере проявить себя, снова нашел себе «горячую точку»: пошёл в ЦК и попросился на колхозную работу. Не он один сделал этот выбор — призыв партийцев на колхозную работу насчитывал 25 тысяч человек. По направлению Колхозцентра он попал в Хопёрский округ Нижне-Волжского края, где был назначен председателем крупного колхоза «Краснознаменец», состоявшего примерно из тысячи хозяйств и располагавшего 24 тысячами гектаров земли.
Осень 1929-го была временем начала сплошной коллективизации. Колхоз «Краснознаменец» был уже собран. В декабре Сталин объявил о конце НЭПа и переходе к политике «ликвидации кулачества как класса». Всю зиму активисты колхозного строительства изо всех сил ликвидировали кулачество, а кулачество, как могло, ликвидировало активистов и сельское хозяйство как таковое. К весне стало ясно, что дело движется к полной катастрофе сельского хозяйства, и 2 марта 1930 года в «Правде» была опубликована статья Сталина «Головокружение от успехов», где резко критиковались «перегибы на местах». На партконференции Хопёрского округа Семенов выступил с критикой политики партии в области коллективизации, но, развивая выводы Сталина, зашёл слишком далеко. Его выступление было вновь квалифицировано как правый уклон, после чего, к лету, Семёнова сняли с председательской должности. 25 ноября того же года Михайловская районная контрольная комиссия исключила его из партии за правооппортунистические взгляды, но уже через 5 дней (! ) ЦКК ВКП(б) восстановила его в рядах большевиков.
Начинался «великий перелом». Троцкого уже выслали из страны, а Бухарина уволили с поста редактора «Правды» и вывели из состава Политбюро. Не повезло и всем их друзьям, в том числе и Семенову. Одно время он работал начальником строительства Болшевского механического и чугунолитейного завода под Москвой, затем начальником авторемонтных мастерских ВОГФа (Всесоюзного объединения гражданского воздушного флота, которым до своей гибели в авиакатострофе в 1933 г . руководил бывший начальник Семенова по Главэлектро Гольцман). По словам биографа Семенова С. В. Журавлева, «отовсюду его „вычищали“ — слишком богатая биография вкупе с разрисованным выговорами партийной учетной карточкой рождала в коллективе настороженное отношение». После того, как по инициативе секретаря Краснопресненского райкома партии Никиты Сергеевича Хрущёва Семёнова уволили из ВОГФа, он попросился на прежнее место в Главэлектро. Однако и оттуда вскоре был уволен — всплыла работа под начальством Троцкого в Главэлектро и рекомендации троцкистов Крестинского и Серебрякова, данные ему для вступления в партию.
В 1933 году Семёнов покидает столицу и уезжает в Ленинград, на должность начальника отдела рабочего капстроительства машиностроительного завода им. Ворошилова. Здесь к нему отнеслись помягче. В сентябре 1933 года Семёнов успешно проходит очередную партийную чистку, хотя и со скрипом — товарищи по партии задали ему 52 вопроса!
В Ленинграде ему удаётся спокойно проработать полтора года, до 1 декабря 1934 года, когда первого секретаря Ленинградского обкома С. М. Кирова убили в Смольном прямо у дверей кабинета. Одним из
следствий убийства стала чистка всей ленинградской парторганизации. 1 февраля 1935 года заводской партком в третий раз исключает Семёнова из рядов ВКП(б). Опальный коммунист снова берётся за привычное дело — подаёт апелляцию и 22 февраля 1935 года на заседании бюро Володарского райкома Семёнова восстанавливают в партии.
Понимая, что за чистку партии взялись всерьез и теперь его едва ли оставят в покое, Семёнов предпринимает отважный шаг. В марте он едет в Москву и пробует вернуться в разведку: явившись в Разведупр, предлагает свои услуги в любом рискованном мероприятии. Лучше война, с её ясными и привычными законами, чем полная непредсказуемых нюансов и потому смертельно опасная для человека с его биографией мирная жизнь. Семёнов пришёл не с пустыми руками, у него была идея. Он «вызвался возглавить группу инструкторов-специалистов по всем областям военного искусства и техники и перебросить её на самолётах или на верблюдах через пустыню Гоби на помощь Китайской Красной армии». В апреле 1935 года его в очередной раз зачисляют в штат Разведупра, и он приступает к подготовке экспедиции через пустыню Гоби. В качестве помощника Семенов привлекает старого приятеля, закалённого в уличных боях и проверенного на разведработе Эмиля Дайбеля, который тоже работает в военной разведке.
Однако экспедиция не состоялась. В ноябре Семёнову присваивают звание бригадного комиссара и посылают в Монголию с более частным заданием — «для налаживания связи с Китайской Красной армией и проверки маршрута». Он должен был «организовать переброску 6 китайских товарищей через Монголию в Китай», что и сделал, но затем расконспирировал себя, и в мае 1936 года его отозвали в Москву. Между тем в Разведупре РККА решался вопрос о дальнейшей судьбе 21 сотрудника, которые в прошлом являлись «участниками оппозиционных группировок». По поводу бригадного комиссара Г. И. Семенова «принято решение оставить в Управлении для специальной работы» (РГВА, ф.9, оп.29, д.327, л.5.).
Его ждало новое задание. В июле 1936 года в Испании генерал Франко возглавил фашистский мятеж против республиканского правительства. Помощь ему оказали фашистская Италия и национал-социалистическая Германия. 4 октября СССР открыто заявил о своей поддержке Испанской республики. В Испанию направили советскую военную технику, 2 тысячи советников, а также большое число военных специалистов. В ноябре подучивший испанский язык Семёнов выехал в Париж, а оттуда в Барселону (в том же месяце Комиссия партконтроля при ЦК партии, по ходатайству парторганизации Разведупра РККА, сняла с него все партийные взыскания, кроме выговора 1929 года).
Снова были востребованы умения бывшего эсеровского боевика в области индивидуального террора. Семёнову надлежало «пробраться в тыл мятежников и ликвидировать некоторых руководителей фашистского движения». С аналогичным заданием в Испанию была направлена сотрудница Разведупра Элли Бронина, жена арестованного в 1935 году в Шанхае резидента военной разведки Якова Бронина. А по линии внешней разведки, с помощью диверсантов-интербригадовцев и будущего знаменитого советского разведчика Кима Филби (бывшего в то время корреспондентом английских газет при штабе франкистов), такое покушение готовил представитель НКВД в Испании Александр Орлов-Никольский. Одним из руководителей разведывательно-диверсионной деятельности в Испании по линии военной разведки был бригадный комиссар Х. И. Салнынь, нелегальный резидент в Китае в 1926-1929 годах.
Опытный боевик и организатор покушения на Ленина, казалось, вот-вот нанесет решающий удар… но вместо этого «товарищ Андрей», осмотревшись на месте, начал с развёртывания широкого партизанского движения в тылу врага. Семёнов полагал, что массовая диверсионная деятельность принесёт в будущем больше пользы и, одновременно, создаст необходимые кадры для терактов против членов правительства. Позже, во время Великой Отечественной войны, такая тактика принесла богатые плоды, но в 1936 году в Москве ждали иного. Полагали, что Семенов организует что-то наподобие своего Центрального боевого отряда для индивидуального террора, и работу по организации партизанских отрядов расценили как самоуправство. В Испании он проработал всего три месяца. За это время его помощник, возглавлявший проведение диверсий, вместе с несколькими испанскими боевиками взорвал 5 вражеских поездов, но на последней операции погиб. В конце января 1937 года Семёнова отозвали в Москву, как он думал, для расследования обстоятельств гибели помощника. 11 февраля, прямо на перроне вокзала, его арестовали сотрудники НКВД.
Семёнов был обвинён в участии в «контрреволюционной организации правых». При обыске на его квартире изъяли большое количество писем и фотографий, две из которых доказывали несомненную близость с «лидером правых»: Семёнов с Бухариным были сфотографированы вместе. Всплыла и связь с Эсфирь Гурвич, а также то, что Бухарин защищал Семёнова на процессе правых эсеров в 1922 году. Сам же Николай Иванович ещё в заявлении на февральско-мартовском пленуме ЦК ВКП(б) 1937 года писал, что пример с Семёновым неудачен. Ведь «Семёнов фактически выдал советской власти и партии боевые эсеровские группы. У всех эсеров, оставшихся эсерами, он считался „большевистским провокатором“. Роль разоблачителя он играл и на суде против эсеров. Его эсеры ненавидели и сторонились его как чумы». Бухарин подчёркивал, что в 1922 году защищал Семёнова «по постановлению ЦК партии. Партия наша считала, что Семёнов оказал ей большие услуги, приняла его в число своих членов» (Вопросы истории. 1992. № 2-3. С.27-28.).
Все эти доводы оказались бесполезны. Ефим Цетлин, бывший первый секретарь ЦК РКСМ и секретарь Бухарина, 14 декабря 1936 года дал показания о том, что в начале 1930-х Бухарин дал Семёнову задание подобрать людей из числа бывших эсеров-боевиков и организовать покушение на Сталина и других руководителей государства. Эти показания стали основанием для ареста.