Первым монахом-отшельником, избравшим Саровскую гору для подвижнической жизни, был пензенский монах Феодосий, пришедший на Старое городище в 1664 году. Он был неоднократным свидетелем того, как на Старом городище разбойники — «подорожники» делили свою добычу.
Но не только это открылось взору подвижника — на пустынной Саровской горе видел он и многие чудеса: необыкновенный свет над горой, и даже огненные лучи, освещавшие гору сверху; иногда он слышал гул и звон, раздававшиеся из-под земли. Видя многие знамения, Феодосий пришел к выводу, что месту этому предназначена великая будущность. В старости Феодосий вынужден был оставить Саровскую гору и вернуться в Пензу.
Спустя десять лет после Феодосия на Старом городище поселился монах Герасим из Краснослободского монастыря. Он тоже был свидетелем необыкновенных явлений. Слух о таинственных чудесах разносился по окрестным селам и деревням. Местные жители решили, что знамения — указание на сокровища древнего Сараклыча, сокрытые в земле. Не раз крестьяне села Кременки искали клады в Саровской горе, но нашли лишь шесть каменных крестов и один медный, складной, с углублением для святых мощей. Этот медный крест впоследствии стал великой святыней Саровской пустыни и хранился на почетном месте в Саровских пещерах.
Старец Герасим окончил жизнь строителем Краснослободского монастыря. После него на Старом городище жили два монаха из соседнего Санаксарского монастыря. Они хотели основать здесь обитель, но, не выдержав испытаний отшельнической жизни, возвратились в Санаксар.
Некоторое время это место опять пустовало, а окрестные крестьяне были свидетелями непрекращающихся знамений. Наконец пришел на это место инок Арзамасского Введенского монастыря Исаакий, впоследствии в схиме Иоанн, которому Бог судил стать основателем Саровской обители.
В миру инока Исаакия звали Иван Федорович Попов, он был сыном церковнослужителя — причетника. С ранних лет он подвизался в храме, помогая своему отцу на клиросе петь и читать. Также с ранних лет он чувствовал тягу к монашеской жизни, однако, некоторое время он никак не мог решиться уйти в монастырь. Только после нескольких видений он, укрепившись в желании монашеской жизни, уходит в арзамасский Введенский монастырь. 6 февраля 1689 года, на 19-м году от рождения Иван Попов был пострижен с именем Исаакия.
Вскоре молодой инок стал тяготиться городской суетой, в которую волей-неволей была вовлечена Введенская обитель. От пришедшего во Введенский монастырь монаха Филарета инок Исаакий узнал, что в дремучих Темниковских лесах, между Сатисом и Саровом, есть удобное для отшельничества место. Вместе они отправились на это место и поставили там крест.
А некоторое время спустя, в 1691 году, Исаакий, которому тогда исполнился 21 год, с благословения настоятеля Арзамасской обители и своего духовника, поселился вместе с Филаретом на Старом городище. Только месяц прожили они здесь. Не выдержав трудностей пустынножительства, они переселились в Санаксарскую пустынь. Год спустя, по просьбе санаксарской братии, Исаакий в Москве был рукоположен во иеромонаха.
Но даже суровая жизнь Санаксарской пустыни не могла удовлетворить жажду подвига о. Исаакия — он по-прежнему стремился к пустынножительству. В 1692 году вместе с послушником Андреем он вновь переселился в Темниковские леса, на Старое городище. Вскоре он остался там совсем один — послушник, не выдержав тягот пустынножительства, вернулся в Санаксары.
В одиночестве о. Исаакия постигли тяжкие искушения: и душевные и телесные — тяжко заболев, он уже готовился к смерти. Но тут о нем вспомнила Санаксарская братия, которая в то время осталась без иеромонахов. Они упросили о. Исаакия на время переселиться к ним для служения литургии. Около года прожил о. Исаакий в Санаксарской обители; за это время он полностью поправился, и с новыми силами возвратился в пустыню.
Однажды в его уединение забрел соловецкий монах Николай. Он посоветовал о. Исаакию построить церковь на Старом городище. Поначалу этот совет казался неосуществимым. Но затем о. Исаакий получил подтверждение, что на строительство здесь храма есть воля Божия. Тем паче, что в окрестных селениях и лесах процветал раскол.
В 1700 году о. Исаакий начал собеседования с раскольниками. Иногда они приглашали его в свои скиты для прений о вере. В результате многие раскольники вернулись в Православие. Именно они и стали первыми насельниками будущей Саровской обители.
Труды иеромонаха Исаакия стали широко известны — в результате, с благословения священноначалия, братия арзамасской Введенской обители избрала его своим настоятелем. Согласившись принять на себя управление городской обителью, о. Исаакий намеревался через некоторое время возвратиться к пустынножительству. Переселившись в Арзамас, он по-прежнему навещал пустынножителей и наставлял их в вере. Но не всем это пришлось по душе. Иеромонах Варлаам позавидовал влиянию о. Исаакия и написал на него донос, в котором обвинял наставника в расколоучительстве. В результате в 1703 году настоятель Введенской обители был вызван в Москву.
После разбирательства, окончившегося полным оправданием о. Исаакия, он, возвратившись в Арзамас, поставил вместо себя настоятелем Введенской обители своего ученика Афиногена и удалился в Саровскую пустынь.
Посоветовавшись с иноками, жившими в Старом городище, о. Исаакий начинает хлопоты по строительству храма и основанию новой обители. Несколько лет он провел в Санкт-Петербурге, оформляя необходимые для строительства документы. Он был известен и почитаем в царской семье. Благодаря своей настойчивости и связям в столице, в начале 1706 года о. Исаакий сумел получить Высочайшее разрешение Петра I и местоблюстителя Патриаршего престола Стефана (Яворского) на строительство церкви.
В феврале 1706 года начали валить лес, в мае на городище уже высился сруб. 16 июня 1706 года был освящен первый храм Саровской пустыни во имя иконы Божьей Матери Живоносный источник. Эта дата считается днем основания Саровского монастыря.
Вслед за храмом были построены деревянные кельи для монахов и трапезная; одновременно с возведением монастыря шло строительство «подземного города». Начало ему было положено о. Исаакием задолго до открытия пустыни, когда в качестве временного убежища он вырыл себе пещеру в горе. Впоследствии эти пещеры расширялись, в них устраивались кельи для молитвенного уединения.
Деятельность о. Исаакия не ограничивалась только внешним устройством пустыни. Вместе с первой церковью возникает монашеское общежительное братство. Отец Исаакий с единодушного согласия братии приступает к написанию устава Саровской обители. Через месяц после освящения церкви он собрал всю братию, жившую на Саровской горе, и предложил им устав, написанный по строгим древним образцам. По совету с братией, о. Исаакий отослал устав на утверждение местоблюстителю патриаршего престола, преосвященному Стефану (Яворскому), митрополиту Рязанскому и Муромскому. Впоследствии этот устав послужит образцом для многих монастырей России.
Насколько строги были правила Саровского монастыря, настолько же суров был и быт монахов. Все нужное для жизни добывалось собственным трудом, при этом братия не имели никакой собственности. Сами возделывали землю, сеяли хлеб, на жерновах мололи муку. Занимались токарным и столярным делом, шили одежду, плели лапти, служившие обычной обувью. Одежда монахов была простой: летом — балахоны из холста, зимой — тулупы. Вкушать пищу разрешалось лишь в трапезной. Единственным лакомством братии в праздничные дни служил настой из малины и мяты, который пили с медом.
Вскоре после постройки первой церкви поставили еще два храма и кельи для гостей. Территорию монастыря обнесли оградой. К 1711 году был готов пещерный город с подземной церковью. В том же году в Саровскую обитель была прислана грамота местоблюстителя патриаршего престола с утверждением устава обители.
Монастырские дела требовали от настоятеля новоустроенной обители частых поездок в столицы. В одну из таких поездок он тяжело заболел и принял схиму с именем Иоанн, дав обет отказаться от настоятельства в Саровской обители.
Поправившись, он вернулся в Саровскую пустынь. За время его отсутствия многие дела оказались расстроены, а среди братии были неурядицы. Они просили своего старца навести порядок, но он вынужден был отказаться, сославшись на обеты, данные при пострижении в схиму. Тогда братия обратилась к местоблюстителю митрополиту Стефану, прося его разрешить о. Иоанна от обета. Митрополит с пониманием отнесся к прошению Саровской братии, указав о. Иоанну «быть настоятелем и служить по-прежнему».
К 1729 году у Саровской обители были 22 тысячи десятин земли. Императрица Анна Иоановна своим Указом от 25 октября 1730 года «...все земли, сенные покосы и рыбные ловли» утвердила за Саровской пустынью навечно, «...не в пример другим». Число братии в 1733 году было 36 человек.
Так случилось, что жизнь основателя обители о. Иоанна закончилась не в Саровском монастыре, как он мечтал, а в Санкт-Петербурге, в Тайной канцелярии. В 1733 году, по ложному доносу, саровские иноки были заподозрены в государственной измене. В Саров прискакали чиновники Тайной канцелярии с солдатами для ареста о. Иоанна. Сковав цепями, его посадили под караул. Затем, допросив иночествующих, собрались везти его в Петербург. Преемник о. Иоанна — о. Досифей — едва упросил караульных позволить братии проститься со своим старцем.
Перекрестясь, первоначальник саровский положил три поклона пред святыми вратами созданной им обители. Затем, обернувшись к оставляемой им братии, трижды поклонился ей в ноги, на что и братия отвечала земным поклоном. Затем он молча осенил ее крестным знамением.
Около четырех лет протомился Иоанн вузах в Петербурге. Перед кончиной, напутствуемый Святыми Дарами, он просил духовника доставить в Саровскую пустынь письмо с его предсмертным заветом братии — твердо хранить устав, держать мир и любовь между собой и безропотно нести послушания. Иеросхимонах Иоанн, скончавшийся 4 июня 1737 года, похоронен при церкви Преображения Господня, что в Колтовской, в Санкт-Петербурге.