Хейс записался добровольцем в воинскую часть, которую начал формировать губернатор Огайо Уильям Деннисон. Точно неизвестно, по каким причинам юрист, не имевший никакого военного опыта, получил звание майора 23-го добровольческого пехотного полка Огайо. Видимо, среди волонтеров просто не было более или менее грамотных. После тренировки, продолжавшейся около месяца, полк был направлен в западную часть Вирджинии. Первый бой против сил Конфедерации, в котором участвовал Хейс, произошел в сентябре в районе Карнифекс-Ферри. Полк смог отбить атаку, и хотя Ратерфорд ничем особым не отличился, но все же принял участие в контратаке, заставившей неприятеля отступить. После боя он получил звание подполковника и возглавил полк, который расположился на зимние квартиры в Западной Вирджинии. Несколько месяцев он не участвовал в боях, впрочем, той зимой и на других участках активных действий не было. Весной стычки возобновились. Хейс со своими солдатами участвовал в нескольких рейдах в тыл противника. Во время одного из них он был легко ранен в ногу, но после недолгого лечения возвратился в строй.
Первое крупное сражение, в котором он по-настоящему принял боевое крещение, произошло 14 сентября на границе Вирджинии и Мэриленда, в районе Южной горы. Войсками северян командовал генерал Джордж МакКлеллан, южанами — генерал Роберт Ли. Бой шел за овладение перевалами в Аппалачских горах, важных для дальнейших военных действий. Ли вынужден был отступить. Правда, МакКлеллан победой не воспользовался…
Во время атаки на окопы противника Хейс был ранен в левую руку (что привело к раздроблению кости и большой потери крови), но остался на поле боя. Правда, его подчиненные вели себя отнюдь не столь отважно: они не обратили внимания, что их командир потерял сознание, бросили его и отошли, оставив его лежащим посреди поля. Лишь позже, спохватившись, кто-то из солдат возвратился за Хейсом и помог ему добраться до своих окопов. После боя его отправили в госпиталь, где он провел около месяца.
Мужество офицера вновь было оценено, он был произведен в полковники, а после выздоровления стал командиром бригады и вскоре получил временное звание бригадного генерала. В следующие месяцы он участвовал в боях на различных участках и в 1864 г. был еще раз ранен в плечо. Впрочем, как командир он особых талантов не проявил: он мужественно и исправно исполнял приказы, но каких-либо достоинств в области оперативного мышления у него не было. Тем не менее его имя было известно командованию и сам Грант отзывался о нем положительно как о генерале, проявившем «мужество и качества хорошего организатора». Характеристика была все же явно сдержанной.
Хейс завершил войну в звании временного генерал-майора, после чего вернулся в Огайо и навсегда оставил военную службу. Еще находясь в армии, Хейс был выдвинут в родном штате в Палату представителей Конгресса США. Хотя он непосредственно не участвовал в кампании, ограничившись только несколькими письмами к избирателям, он как храбрый военный, внесший вклад в победу, был избран. Почти сразу после возвращения в Цинциннати Хейс отправился в столицу для работы в Конгрессе. В Палате представителей он, не являвшийся официально членом партии как недавний военный, сразу же присоединился к группе умеренных республиканцев, хотя по ряду вопросов голосовал вместе с радикальным, аболиционистским крылом депутатов.
Он энергично выступил за 14-ю поправку к Конституции, запрещавшую рабовладение в США, и призывал к ее скорейшей ратификации. После убийства Линкольна и вступления на президентский пост Эндрю Джонсона Хейс стал одним из наиболее рьяных оппонентов нового президента. Он был в числе тех депутатов, которые ратовали за проведение глубокой реконструкции юга, прежде чем бывшие штаты Конфедерации получат полные права в органах власти. Он выступал за принятие закона о запрещении президенту смещать высших чиновников, прежде всего министров, без санкции Сената. Этот закон был принят, в частности благодаря его усилиям. Одновременно Хейс выступал за реформирование гражданской (государственной) службы в принципе с целью устранить из административных органов партийных назначенцев. Эта реформа не нравилась многим конгрессменам и так и не была проведена. Позже, став президентом, Хейс продолжал добиваться реорганизации административных служб.
Пребывание в Конгрессе было недолгим. Хейс пришел к выводу, что значительного влияния на общегосударственные дела он оказать не в состоянии. Между тем в родном штате Огайо приближались губернаторские выборы. Пост губернатора в последние годы занимал представитель Демократической партии, всячески затягивавший ратификацию 15-й поправки. В планах Хейса были и различные меры, касавшиеся улучшения экономической и культурной ситуации. Он выставил свою кандидатуру на губернаторский пост и легко победил.
Пост местного руководителя он занимал с 1868 по 1872 г. Хейс снискал популярность среди местного населения снисходительностью по отношению к преступникам, совершившим сравнительно небольшие нарушения законов. Он многократно использовал право помилования и завоевал репутацию «доброго губернатора», хотя и не выступавшего с крупными инициативами. Наиболее значительной областью, в которой он проявил себя, было образование, в частности высшее. Хейс стал инициатором основания крупного сельскохозяйственного и механического колледжа, который позже был преобразован в государственный университет штата Огайо.
Считая, что он накопил определенные знания и опыт для административной службы в национальном масштабе, но находясь пока на распутье, Ратерфорд Хейс в 1872 г. отказался выдвигать свою кандидатуру на новый срок и вернулся к частной жизни. Перед этим, правда, он обратился к президенту Гранту, памятуя свою службу под его началом во время недавней войны, с просьбой предоставить ему какой-либо пост в Вашингтоне. Грант отказал, причем в резкой форме. Ему, видимо, не понравилось, что ничем существенным на войне не отличившийся бывший генерал осмеливается обратиться прямо к президенту.
Хейс вернулся к юридической практике и одновременно занимался коммерческими операциями с землей, и хотя особого чутья он не проявил, но и не разорился. Его доход почти исключительно составляли адвокатские гонорары. В 1873 г. он получил наследство: его дядя Сардис завещал ему свой дом в городке Спидел-Гроу, куда Хейс переселился и продолжал здесь свои юридические дела. Кроме того, он распоряжался завещанием Сардиса, который оставил немалые средства на благотворительные цели, в частности на основание библиотек. В одной из них, самой крупной, расположенной в Спидел-Гроу, Хейс стал председателем наблюдательного совета.
Его, однако, все больше тянуло вновь заняться политикой, хотя бы на местном уровне. Когда активисты Республиканской партии в 1875 г. предложили ему вновь выставить свою кандидатуру на пост губернатора Огайо, он согласился и вновь легко выиграл выборы. Но на этот раз на пост он так и не вступил, так как волей судеб оказался в центре избирательной кампании федерального масштаба. 1876 год стал годом очередных президентских выборов. Достойной замены Гранту — человека, который мог бы противостоять вероятному кандидату демократов губернатору Нью-Йорка Сэмюэлю Тилдену, — у республиканцев не было.
Предвыборный съезд Республиканской партии состоялся в городе Цинциннати в июне 1876 г. Вначале кандидатом был выдвинут спикер Палаты представителей Джеймс Блейн. Он, однако, оказался не в состоянии набрать большинство в 2/3 голосов, хотя из тура в тур и увеличивал число своих сторонников. Появлялись новые кандидаты, но и они не меняли положения. К тому же в прессе были опубликованы сенсационные сообщения, обвинявшие Блейна в участии в коррупционных схемах. Неизвестно, насколько они были обоснованными, но позиции кандидата подорвали. Тогда делегация штата Огайо выдвинула в качестве кандидата, вроде бы устраивавшего все фракции партии, своего губернатора. В 7-м туре голосования Хейс набрал необходимое число голосов. Для того чтобы укрепить позиции республиканского кандидата, на пост вице-президента был номинирован член Палаты представителей от штата Нью-Йорк Уильям Уилер.
Платформа съезда носила неопределенный характер, имея в виду, что вести борьбу теперь предстояло с таким кандидатом Демократической партии, который был не просто хорошим организатором, но снискал репутацию реформатора. На съезде демократов в президенты был действительно выдвинут Сэмюэль Тилден. Его появление на политической авансцене свидетельствовало, что демократические организации севера, хотя на словах и поддерживали консерваторов юга и дискриминацию там черного населения, по существу переходили на позиции стимулирования индустриального развития, поощрения относительно свободных рыночных отношений, укрепления демократических свобод. Иными словами, по основным вопросам политики они теперь существенно не отличались от Республиканской партии. Борьба между партиями переходила к столкновению между личностями. А это предвещало именно личностные средства противостояния, фактически предусматривавшие нечистоплотные трюки.
В ходе полемики сторонники обоих кандидатов обливали грязью соперников. В прессе выдвигались всевозможные обвинения. При этом у демократов было явное преимущество, так как они широко использовали действительно существовавшие во время правления Гранта вскрытые, но до конца так и не разоблаченные коррупционные схемы. Обозреватели предрекали победу Тилдена.
Избирательный штаб республиканцев фактически возглавил бывший генерал периода Гражданской войны Даниель Сиклс — человек сомнительной репутации, в свое время убивший любовника своей жены, но оправданный судом по причине «временного умопомешательства», которое ни в чем другом не проявилось. Сиклса обвиняли в расхищении государственных средств, однако ни по одному из обвинений дело до суда так и не дошло; он умело выходил сухим из воды. Хейсу явно очень хотелось теперь стать президентом любой ценой, если он доверил руководство своей кампанией такому сомнительному менеджеру. Этот человек счел особенно важным получить бол