Все открыто возмущались безответственностью и безнравственностью Сухомлинова, его самодурством – поведением, граничившим с предательством. Петербургские газеты с негодованием писали о вопиющем случае – странной дружбе военного министра с австрийским консулом Альтшиллером, который, как впоследствии оказалось, являлся кадровым германским шпионом. Поражала наивная беспечность генерал-адъютанта Сухомлинова, который, несмотря на неоднократные предупреждения компетентных служб русской контрразведки и их настоятельные рекомендации прекратить с австрийским дипломатом всякую связь, упорно отказывался этому верить, продолжая оказывать Альтшиллеру дружеское внимание, принимая шпиона не только в личных апартаментах своей резиденции на набережной Мойки, но и в своем рабочем кабинете. В этой дружбе корреспонденты столичных средств массовой информации прослеживали, кстати, и четкую финансовую заинтересованность молодой мадам Сухомлиновой, женщины алчной и весьма расточительной, огромные расходы которой и астрономические портновские счета, как позже оказалось, регулярно оплачивались другом семейства Сухомлиновых – австрийским консулом. Поразительно, но Альтшиллер имел свободный и неограниченный доступ в личный кабинет военного министра, где мог беспрепятственно просматривать секретную военную корреспонденцию, вскрывал служебные письма и даже «помогал» Сухомлинову принимать «верные решения». Непостижимо! Однако главным советником российского военного министра действительно тогда являлся германский шпион. Народ возмущался, требовал незамедлительного суда над генералом, а симпатизирующая ему императрица Александра Федоровна горестно писала своему супругу: «…Солдаты в отчаянии, говорили, что не хотят идти на врага с голыми руками. Ярость офицеров против Сухомлинова безмерна. Бедняга! Все проклинают его имя и жаждут его отставки!»
Несмотря на народные волнения и постоянные требования сурового наказания Сухомлинова, Николай II длительное время уступал просьбам своей жены и всякий раз пытался спустить дело на тормозах. Генерал-адъютант Сухомлинов некоторое время продолжал руководить Военным министерством, однако под давлением общественного мнения летом 1915 года все же был смещен с должности и арестован. Расследование его деятельности позволило не только обвинить его в несоответствии занимаемой должности, но и инкриминировать ему обвинения в шпионаже. Вскрылась история с бывшим внештатным агентом московской полиции Николаем Соловьевым, дельцом, фальшивомонетчиком и любовником молодой супруги генерал-адъютанта Сухомлинова и по его протекции назначенного штатным сотрудником военной контрразведки.
Официальное обвинение в предательстве военного министра также базировалось на преступном покровительстве и оказании услуг жандармскому подполковнику Сергею Мясоедову – весьма подозрительной личности, авантюристу, а впоследствии и германскому шпиону. Начальник жандармского отделения на пограничной станции Вержболово Сергей Мясоедов, награжденный императором Николаем II «За образцовый порядок на станции» золотым браслетом с рубинами и брильянтами, а позже – именными золотыми часами с царским вензелем, в 1907 году за неблаговидные проступки (спекуляцию, взятки, контрабанду) и по служебному несоответствию был с позором уволен со службы и разжалован. Однако это его не особенно огорчило. Женившись на Кларе Гольдштейн и получив за ней немалое приданое, бывший старший жандармский офицер занялся доходным, но весьма сомнительным бизнесом. Совместно с родственниками супруги, Давидом и Борисом Фрайбергами, он организовал Русское Северо-Западное пароходство для перевозки еврейских эмигрантов в Америку и неплохо на этом заработал. Кроме того, наблюдавшая за бурной коммерческой деятельностью Мясоедова русская контрразведка с удивлением обнаружила, что, не имея ни одной российской награды, новоявленный предприниматель, был награжден двадцатью шестью иностранными орденами, в том числе шестью германскими.
В 1911 году отдыхавшая в Карлсбаде жена Мясоедова «случайно» познакомилась и свела тесную дружбу с супругой военного министра России Сухомлинова. Войдя таким образом в полное доверие к сановному генерал-адъютанту, Мясоедов по его личному распоряжению не только восстанавливается на службе в жандармерии, но даже назначается начальником контрразведки одного из западных военных округов, получив при этом официальный доступ к важнейшим секретным документам Генштаба.
В апреле 1912 года в ряде российских газет появилась информация, утверждающая, что Мясоедов является германским шпионом. Инициатором разоблачительной кампании становятся депутат Государственной думы А. И. Гучков и редактор газеты «Новое время» А. С. Суворин. Официальное служебное расследование действительно подтвердило подозрительную деятельность Мясоедова, однако в этот раз он легко отделался от наказания с помощью дружеской защиты генерала Сухомлинова, но все же его отстранили от работы и вновь разжаловали. Однако с началом Первой мировой войны, в 1914 году, к удивлению всех, по распоряжению самого военного министра Сухомлинова Мясоедов внезапно производится в полковники и зачисляется в штаб 10-й армии, где руководит разведкой, контрразведкой и активно снабжает германское командование ценной военной оперативной информацией. Пользуясь своим ответственным служебным положением, полковник Мясоедов через свою жену передал противнику важные секретные документы – оперативные карты с подробностями расположения русских воинских подразделений 10-й армии. За эту «операцию» он получил благодарность немецкого командования и денежный гонорар в размере 30 тысяч рублей. Пойманный с поличным и арестованный жандармский полковник, несмотря на веские улики его преступной деятельности, на допросах полностью отрицал предъявленные ему обвинения в шпионаже. Но, на его беду, из германского плена «бежал» подпоручик Колаковский, завербованный немецкой разведкой и засланный для совершения в русском тылу целого ряда диверсий. Перед забросом в русский тыл завербованный немецкий агент имел указание при необходимости обращаться за помощью к… полковнику Мясоедову, но при своем задержании дал в русской контрразведке добровольное признательное показание и полностью охарактеризовал преступную деятельность полковника Мясоедова. Наконец-то в деле германского агента поставили точку. 18 марта 1915 года Мясоедов был повешен в Александровской цитадели. Разразился грандиозный скандал, в котором главным фигурантом проходил покровитель германских агентов и главный резидент немецкой разведки – российский военный министр генерал-адъютант Сухомлинов, препровожденный сначала под домашний арест с подпиской о невыезде, а затем, в декабре 1916 года, заключенный в Трубецкой бастион Петропавловской крепости. Однако усилиями императрицы Александры Федоровны «бедняга» Сухомлинов вскоре «по состоянию здоровья» был переведен в нервную клинику, а из нее затем милостиво отпущен домой.
С позором отставленный от должности генерал В. А. Сухомлинов освобождает казенные апартаменты на набережной Мойки и вместе с семьей переселяется в арендуемую квартиру доходного дома в районе Коломны, на Офицерской улице, 53.
После Февральской революции Сухомлинов был вновь арестован и предан суду Временного правительства по обвинению в измене, в бездействии, во взяточничестве и приговорен судом к пожизненной каторге. В деле бывшего военного министра фигурировали шесть томов документов, хранящихся в канцелярии Верховной следственной комиссии, полностью обличающих заключенного в предъявленных ему обвинениях. Суд проходил в период с 10 августа по 12 сентября 1917 года. Председательствующим суда являлся сенатор Н. Н. Таганцев, обвинителем – В. П. Носович, а защитником – М. Г. Казаринов. В качестве соучастницы к суду привлекалась и жена генерала Сухомлинова. Петроградские газеты тогда писали, что большинство предъявленных обвинений бывшему военному министру Российской империи на суде не подтвердились, однако генерала все же признали виновным в «недостаточной подготовке армии к войне». 20 сентября 1917 года генерала приговорили к бессрочной каторге, к лишению всех прав и состояния, его супругу суд тогда оправдал. После апелляции адвокатом приговора пожизненная каторга В. А. Сухомлинову была заменена тюремным заключением его в Трубецком бастионе Петропавловской крепости Петрограда. После Октябрьского государственного переворота 1917 года заключенного Сухомлинова перевели в городскую тюрьму «Кресты». 1 мая 1918 года генерал, достигший 70-летнего возраста, был амнистирован советским правительством, освобожден из заключения и выехал с семьей в Финляндию, из которой затем переехал в Германию. В эмиграции он опубликовал книгу «Воспоминания», в ней он попытался представить себя в роли «ангела миротворца», выступающего за сердечную дружбу двух стран – России и Германии. Жизнь в эмиграции была полна злоключений. Генерал бедствовал, голодал и умер в 1926 году.
Преемником генерала В. А. Сухомлинова на период с 13 июля 1915 года по 15 марта 1916 года становится начальник Главного штаба – генерал от инфантерии Алексей Андреевич Поливанов, человек, близкий к правым буржуазным кругам Государственной думы, вовлеченный А. И. Гучковым в «революционную работу». С самого начала Первой мировой войны он принимал деятельное участие в работе принца А. П. Ольденбургского по эвакуации раненых. Приняв пост военного министра, Поливанов сосредоточил работу Военного ведомства на улучшении снабжения русской армии. Генерал, по мнению офицеров, все же сыграл важную роль в перестройке военной промышленности и преодолении кризиса в поставках в армию оружия и боеприпасов. Он активно выступал за победоносное продолжение войны, считал вопрос победы вопросом жизни для России, полагая, в своих выступлениях, что для этого никто не должен оставаться в стороне от войны и обязаны работать все, кто может работать. Французский дипломат Морис Палеолог, посол в Петрограде, отмечал в своих воспоминаниях, что генерал Поливанов – человек образованный, деятельный и работоспособный, обладающий духом организации и командования. Кроме того, ему приписывают либеральные убеждения, вызывавшие сочувствие к нему со сторону членов Государственной думы.