После смерти отца Павел вместе с братом Василием организовал «Торговый дом П. и В. братья Рябушинские», официальное учреждение которого состоялось только в 1867 г. К тому времени дела его настолько разрослись, что братьям пришлось увеличить персонал служащих в Москве. Однако самую ответственную работу — прием тканей от мастеров — производил в Голутвинском доме сам П. М. Рябушинский. Зная хорошо всю технику производства, он отмечал все недостатки принимаемого товара и указывал мастерам на технические причины дефектов. Он лично устанавливал цены на ходовые образцы продукции, а стоимость других товаров предоставлял право определять приказчикам, имевшим непосредственные отношения с покупателями.
Набиравшее обороты торгово-промышленное дело братьев Рябушинских содействовало расширению круга общества, в котором вращался Павел Михайлович. Его деятельную натуру давно уже не удовлетворял замкнутый патриархальный строй жизни, с детства установленный родителями. Еще при жизни отца молодой предприниматель заводил знакомства в музыкальном и литературном мире, а затем в 1860-х гг. у него нередко собирались артисты любимого им Малого театра.
По своему внешнему облику Рябушинский-младший совершенно не походил на купцов-старообрядцев старшего поколения. Он выглядел деловитым, подтянутым и аккуратным человеком, всегда безукоризненно и по последней заграничной моде одетым. Несмотря на запреты отца, он потихоньку занимался музицированием и хорошо играл на гитаре. Не получив достаточного образования, Павел Михайлович, тем не менее, всю жизнь учился самостоятельно, много читал и общался с интеллигенцией, в отличие от отца и брата активно занимался общественной деятельностью.
В 1860 г. он был выбран на три года в члены шестигласной распорядительной Думы, как представитель от московского гильдейского купечества, в 1864 г. — в Комиссию по пересмотру правил о мелочном торге, а в 1867 г. стал кандидатом в депутаты Городского депутатского собрания и членом Коммерческого суда. В 1871 г. П. М. Рябушинский являлся членом учетного и ссудного комитетов Московской конторы Государственного банка, а с 1870 по 1876 гг. состоял выборным Московского биржевого общества.
Всю свою жизнь Павел Михайлович был по преимуществу фабрикантом, и промышленное производство интересовало его больше, чем вопросы торговли и финансов. Он с удовольствием принимал участие во всероссийских промышленных выставках, демонстрируя там продукцию своих мануфактур. В 1865 г. Рябушинский получил серебряную медаль на выставке в Москве, а спустя пять лет, в Санкт-Петербурге, «за хорошую бумажную пряжу и доброкачественные при умеренных ценах разнообразные бумажные ткани, а также за туаль-де-норд хорошей выработки и отделки» — золотую. «За совмещение всех операций по переработке хлопка в готовые ткани, а также за постоянное стремление к улучшению производства своих ткацких изделий» он был награжден правом употребления на вывесках и изделиях изображения Государственного герба Российской империи.
Большую часть семейного капитала П. М. Рябушинский стремился поместить в развитие производства. Однако в решении этих вопросов нередко наталкивался на сопротивление брата Василия. Тот, в отличие от него, не любил фабрику и недоверчиво относился ко всем затратам на улучшение и расширение производства. Когда Павел Михайлович решил приняться за бумагопрядильное дело и приобрести в Тверской губернии продававшуюся на выгодных условиях фабрику «А. Шилов и сын», Василий Михайлович был настолько против, что брат решил купить ее на свои личные средства.
Также восставал Василий и против приобретения земельной собственности, в результате чего некоторые лесные массивы были куплены Товариществом позднее по значительно более высокой цене, чем предлагались ранее. В. М. Рябушинский считал, что спокойнее, а потому и выгоднее использовать капитал, помещая его в процентные бумаги. В дальнейшем Павел Михайлович прислушался к мнению брата и расширил вексельные операции фирмы, доведя их в последние годы своей жизни до 9 млн рублей.
Разнообразная деловая и общественная деятельность не только поглощала кипучую энергию П. М. Рябушинского, но и помогала ему справиться с неудачами в личной жизни. Женившись в 23 года на Анне Семеновне Фоминой, которая была старше его на несколько лет, Павел Михайлович не нашел семейного счастья. Брак этот был не по любви, а скорее по сословным убеждениям и взаимной договоренности родителей молодоженов. Первый ребенок в молодой семье — сын, умер в младенчестве. После этого каждый год рождались дочери. На этой почве в доме были постоянные ссоры, которые, в конце концов, закончились судом. В 1859 г. брак был расторгнут. На руках у Павла Михайловича осталось 6 дочерей от шести до тринадцати лет, которых он в соответствии с возрастом помещал на воспитание в пансион, а после его окончания выдавал замуж.
Неудача, постигшая его в первом браке, не способствовала желанию П. М. Рябушинского вторично заводить семью. Тем временем его младший брат Василий решил жениться. Ему сосватали невесту из старинной старообрядческой семье петербургского хлебного торговца Степана Овсянникова. В 1870 г. Павел Михайлович поехал в столицу устраивать эту свадьбу. И тут случилось то, чего он уже и не ждал. Увидев будущую жену Василия, старший брат влюбился в нее с первого взгляда и, недолго думая, попросил у родителей благословения на брак. И поскольку юная Александра, не успевшая еще к тому времени даже окончить пансион, ответила взаимностью 50-летнему бизнесмену, родителям ничего не оставалось, как дать согласие. Тем же летом они обвенчались. Этот, на первый взгляд, «неравный» брак оказался по-настоящему счастливым. В нем родилось 16 детей, последний из которых появился на свет в 1893 г., когдаП. М. Рябушинскому было уже 72 года.
Уделяя много внимания воспитанию многочисленного потомства, Александра Степановна находила время и для влияния на торгово-промышленные дела мужа. Оно проявлялось в том, что со времени женитьбы Рябушинского установилась более прочная связь хозяев со служащими. Всякие шероховатости во взаимоотношениях, неизбежные во всяком живом деле, на которые Павел Михайлович по своему характеру реагировал очень горячо, Александра Степановна всегда умела смягчить, умиротворяя затронутое самолюбие.
Женитьба будто вдохнула новые силы в Рябушинского. Он с удвоенной энергией стал заниматься своими предприятиями, стремясь к укрупнению производства и сосредоточению его по возможности в одном районе. Ряд старых фабрик был ликвидирован, в том числе и Голутвинская, проданная купцам Истоминым. Зато была куплена новая фабрика в селе Заворово Вышневолоцкого уезда. Она была расположена очень удобно, в полуверсте от железнодорожной станции Николаевской дороги, на равном расстоянии от двух столиц — Петербурга и Москвы, в районе сплавной реки Цны. С концентрацией всего бизнеса на новом месте обороты торгово-промышленного дела Рябушинского чрезвычайно возросли. А сама мануфактура постепенно стала ведущей в стране и превратилась в некое подобие современного холдинга: здесь развивались бумагопрядильное, ткацкое, красильное, отбельное и аппретурное производство. Теперь фабрикант полностью контролировал весь производственный цикл: от пряжи нитей до создания ткани.
После внезапной смерти брата Павел Михайлович, унаследовавший половину его состояния, выделил остальных наследников Василия Михайловича и в 1887 г. преобразовал торговый дом в «Товарищество мануфактур П. М. Рябушинского с сыновьями». Основной капитал его — 2 млн рублей был разделен на 1 тыс. именных паев, из которых 787 паев принадлежали самому хозяину, 208 — его жене и 5 остальных — служащим фирмы. Выделение мануфактур в особое предприятие на паях сильно способствовало их развитию и увеличению. К этому времени на его предприятиях работало уже 1,2 тыс. человек. Кроме фабрик в Товарищество входило также «московское заведение» по торговле мануфактурными товарами, пряжей и ватой.
Среди постоянных забот о развитии руководимого им дела предприниматель не забывал и о благотворительности. В 1891 г. он открыл в своем Голутвинском доме обширную народную столовую. Спустя четыре года этот дом был пожертвован Александрой Степановной для учреждения «Убежища им. П. М. Рябушинского для вдов и сирот московского купеческого и мещанского сословий». На устройство и оборудование «убежища» были выделены значительные средства. Кроме того, по завещанию фабриканта было обеспечено особым капиталом бесплатное ежедневное питание в народной столовой трехсот человек.
В конце жизни Павел Михайлович, накопив значительные капиталы за счет фабричного производства текстильных изделий и торговли ими, обратился к новому для себя, но чрезвычайно увлекательному виду предпринимательской деятельности — банковскому делу. Он стал заниматься учетными операциями и производить покупку процентных бумаг. Позднее для его сыновей этот бизнес стал одним из основных и создал громкую славу и финансовое могущество Банкирскому дому братьев Рябушинских.
Несмотря на свой преклонный возраст, Павел Михайлович до конца дней продолжал участвовать в делах Товарищества и в последние годы жизни даже организовал при мануфактурах лесопильный завод. Однако деятельность этого предприятия по-настоящему развернулась уже при его детях.
Рябушинский не жалел средств на воспитание и образование наследников. О серьезности подготовки свидетельствует тот факт, что большинство из них окончили школу с золотыми медалями. С нетерпением отец дожидался того времени, когда сыновья смогут заменить его в бизнесе. Ведь женившись на их матери в солидном возрасте, он только к семидесяти годам мог рассчитывать на их сотрудничество. Но дети недолго были помощниками в его работе. 21 декабря 1899 г. П. М. Рябушинский умер в возрасте 79 лет в окружении многочисленной семьи.
Александра Степановна всего лишь на 1,5 года пережила своего мужа. Она скончалась в 1901 г. и была похоронена рядом с Павлом Михайловичем на Рогожском кладбище в Москве.
Сыновья Рябушинского выросли талантливыми, яркими людьми и внесли значительный вклад не только в экономическую, но и общественную, политическую, научную и культурную жизнь России. При них основным содержанием деятельности Товарищества стали банковские и биржевые операции. Так, в 1902 г. был создан Банкирский дом и открыто 12 его отделений в различных городах страны. Развивая финансовую деятельность Товарищества, третье поколение Рябушинских не меньшее внимание уделяло и промышленным делам фирмы. Случившийся зимой 1900 г. в Заворове громадный пожар уничтожил прядильную и ткацкую мануфактуры. Это заставило братьев приняться за восстановление и переустройство обеих фабрик, в ходе которого они были оснащены самыми современными машинами. Кроме того, появился целый ряд новых дел: лесоторговое, льняное, писчебумажное, стекольное, полиграфическое и др.