Еще две большие реформы были осуществлены в семидесятые годы — введение городского самоуправления в 1870 г. и всеобщая воинская повинность в 1874 г., закончившая военную реформу, длившуюся полтора десятилетия. Реформа городского самоуправления долго заставляла себя ждать. Центр сначала оказался не готов пойти навстречу требованиям городов. Первый проект Министерства внутренних дел предполагал предоставить выборным городским представителям только право совещательного голоса и прежде всего стремился укрепить роль дворянства. То, что несмотря на это соответствующий устав все же появился, явилось заслугой барона Корфа, бывшего теперь начальником Собственной его императорского величества канцелярии и уговорившего царя направить проект на изучение во Второе отделение канцелярии, где он провалился. После этого в январе 1870 г. Александр, как уже было при освобождении крестьян и земской реформе, создал специальную комиссию, стоявшую над министерствами и другими ведомствами. В комиссию входили брат царя, Константин, и другие испытанные реформаторы, возглавляемые князем Урусовым. Необыкновенно быстро разработанный проект, после совещаний с представителями общественности был утвержден Государственным советом. Хотя деятельность городской думы и ограничивалась местными вопросами и относительно плотно контролировалась из центра, возникло подлинное самоуправление. Недостатком оставалось то, что своего рода трехклассовое избирательное право существенно сужало круг избирателей.
Военные реформы, проводимые Дмитрием Алексеевичем Милютиным (братом Николая Милютина), назначенным в конце 1861 г. военным министром, были, возможно, самыми радикальными из больших реформ. Необходимость поддерживать боеспособность армии и одновременно жестко экономить, придавала реформам министра особую энергию. После отмены крепостной зависимости Милютин последовательно сокращал регулярную армию и формировал необходимый резерв. Он децентрализовал военную администрацию, создав 15 военных округов, которые взяли на себя также значительную часть штабной работы. Так удалось освободить тысячи мест в администрации. Доля военных расходов в общем бюджете существенно сократилась, хотя армия в то же время должна была перевооружаться на основе технических новшеств и формировать новые резервы. Милютин смог ввести всеобщую воинскую повинность только в 1874 г., после того как германо-французская война 1870–1871 гг. еще раз продемонстрировала эффективность такой системы. Закон больше не допускал никаких исключений, кроме сокращения срока службы в зависимости от уровня образования. Набор офицерского корпуса был демократизирован. Для простых солдат служба начиналась с обучения грамоте. Благодаря этому тысячи крестьян, которые возвращались в свои деревни, по крайней мере умея читать, могли принести в деревню немного образования.
Первой большой угрозой духу реформ стало польское восстание. Именно здесь оказалось, что император после нескольких вспышек гнева все еще стремился к уравновешиванию разных интересов, когда это уже представлялось невозможным. Александр начал мероприятия по либерализации и пошел на уступки, но одновременно обозначил границы своей готовности к ним. Однако поляки интерпретировали эту готовность к уступкам только как признак слабости. Их массовые выступления быстро привели к вооруженным столкновениям. Русская администрация в Варшаве не хотела еще больше обострять ситуацию и предоставила охрану общественного порядка Национальному комитету и польской милиции. Несмотря на петицию комитета, которая практически требовала независимости, царь, подавив раздражение, продолжал искать пути к примирению. В Польше он нашел поддержку у магната Александра Велепольского. Следуя его совету, царь 26 марта 1861 г. обнародовал программу реформ: выборы в органы сельского и городского самоуправления, польский государственный совет, полонизация воспитания и открытие польского университета в Варшаве. Но, когда Велепольский закрыл Земледельческое общество своего рода польское альтернативное правительство, возглавлявшееся князем Адамом Замойским, — и распустил Варшавский комитет и его милицию, то снова начались кровавые выступления. После поминальных служб в день смерти национального героя Польши Костюшко, во время которых русские отряды вошли в два костела и арестовали 1600 человек, епископат закрыл все церкви в столице. Начались массовые репрессии. Русские войска всю зиму стояли в польской столице, возобновили свою работу военные суды, строптивые католические священники были сосланы в глубь страны.
В Петербурге тем не менее главенствовала партия примирения. Царь назначил своего брата Константина, испытанного либерала, наместником, а молодого профессора Католической академии в Санкт-Петербурге, считавшегося умеренным, варшавским архиепископом. Последний снова открыл церкви. Александр одобрил полное разделение гражданской и военной администрации в Королевстве Польском и назначил Велепольского главой польской гражданской администрации. Курс реформ и репрессий был продолжен: два человека, совершивших покушения, один из которых хотел убить брата царя, были повешены, Замойский сослан, но в частях Польши, аннексированных по решению Венского конгресса, снова было отменено право войны и проведены выборы в органы самоуправления. Поляки заменили русских в гражданской администрации, где официальным языком теперь считался польский, раскрыл свои двери польский университет, евреи получили широкое равноправие (чего никогда не было в самой России), а новый закон освободил крестьян от службы в действующей армии. Но это не удовлетворило польских патриотов. Когда в январе 1862 г. Велепольский попытался нелегально привлечь молодых людей, чьи симпатии к польскому движению за независимость были известны, на русскую военную службу, то невольно подал тем самым сигнал к восстанию: большая часть молодых людей бежала в леса и присоединилась к давно готовившемуся вооруженному мятежу. Неравная борьба — 10 000 плохо вооруженных и неподготовленных поляков противостояли 80 000 русских солдат — длилась до весны 1864 г. Пришел конец и политике примирения. Николай Милютин при поддержке своих союзников: князя Черкасского и Я. Соловьева по категорическому указанию Александра начал проводить политику русификации и ослабления польского дворянства: 19.2.1864 г. польские крестьяне получили землю — гораздо больше, чем в самой России. Выкупные платежи были снижены. В отличие от русских крестьян, они сохранили за собой право на пользование пастбищами и лесами своих бывших хозяев. Прямая зависимость крестьян от помещиков сразу же прекратилась. Более 1700 польских имений были конфискованы и переданы в собственность русским в западных провинциях России. Польский университет в Варшаве уступил место русскому университету. В следующие годы польский язык, как язык обучения, постепенно исчезал из школ. По предложению Милютина, Александр закрыл почти половину монастырей. Милютин также уменьшил количество приходов, учреждения униатской церкви были запрещены. В Белоруссии М. Н. Муравьев аналогичными методами проводил энергичную политику русификации. Православная церковь, которая охотно допускала это, стала основной опорой политики русификации. Муравьев по мере возможности подчинял народные школы православному духовенству. Царь лично занимался этими мерами и энергично запрещал все попытки вмешательства извне. Позднее он разрешил осуществить некоторые репрессивные меры в отношении «русских» униатов. Так, в некоторых губерниях на западе империи на таких униатов, например, не распространялась судебная реформа. В 1875 г. царь удовлетворил просьбу тысяч униатов о «добровольном» возвращении в православие.
То, что обстановка в Польше могла бы развиваться и по-другому, показывает пример Финляндии. Русская администрация умело начала осуществлять здесь программу экономической модернизации. Правда, в ходе ее реализации (например, при ликвидации гильдий) довольно скоро возник вопрос, а не требуется ли для принятия таких решений созыв финского ландтага, который не собирался с 1809 г. После некоторого промедления царь в 1861 г. распорядился об избрании временного собрания для подготовки законов, затем 15.9.1863 г., когда польское восстание находилось в высшей точке, созвал ландтаг и пообещал, что в будущем ландтаг будет собираться регулярно. В последующие годы ландтаг принял решение о ряде мероприятий: он создал, кроме прочего, финскую валюту, сделал финский язык единственным официальным языком, отменил контроль церкви над школами, уменьшил влияние государства на церковь и в 1874 г. принял современный закон о воинской обязанности, который в числе прочего определял, что финны могут быть мобилизованы только в Финляндии. Это сделало возможным последовательное развитие финской автономии, даже несмотря на то, что царя время от времени раздражали требования финнов. По отношению к белорусам и украинцам такой терпимости не было: украинский и белорусский не считались самостоятельными языками. Публицистическая деятельность любого рода на этих языках не допускалась. На Средней Волге также была предпринята попытка проведения политики русификации. Однако здесь эта политика, которую реализовывал востоковед Ильминс-кий, была направлена на то, чтобы путем преподавания на родном языке приблизить народы этого региона к России. Правда, уровень преподавания здесь был ниже, чем в русских начальных школах. Крымские татары подвергались усиливавшемуся административному давлению, приведшему к массовым переселениям, к которым царь относился одобрительно. С другой стороны, общественные школы, а также университеты, были открыты для всех групп населения. Правительство при этом надеялось на культурную европеизацию нерусской элиты как на первый этап русификации.
Политика в отношении евреев была в некоторых отношениях характерна для эпохи Александра II. В этом вопросе он не был свободен от предрассудков своего отца, но уже манифестом по поводу восшествия на престол отменил особенно жестокие репрессивные меры. Он отказался от школьной политики Николая 1 с ее попытками «европеизировать» евреев и «приблизить их к Христу», так что в конце концов больше евреев смогли посещать общественные школы. В остальном Александр полагался на своих советников. Комиссия определила цель политики в отношении евреев как «ассимиляц