После начала первой Чеченской войны, 14 декабря 1994 г. призвал привлечь к суду за действия, носящие антигосударственный характер, Е.Гайдара, Г.Явлинского и других политических деятелей демократической ориентации, выступивших с акциями протеста.
В списке кандидатов от избирательного объединения КРО в депутаты Государственной думы второго созыва получил 5-е место (1-е место — Ю.Скоков, 2-е — Александр Лебедь). На выборах 17 декабря 1995 г. КРО, не преодолел 5-процентный барьер, получив, согласно официальным данным, 4,32 % голосов избирателей.
На съезде КРО 25–26 мая 1996 г. был избран вместо Ю.Скокова председателем Национального комитета КРО и стал председателем учрежденной 26 мая 1996 г. Русской Народной партии (РНП). Проект РНП был вскоре заморожен, ни в какой деятельности РНП не была замечена.
В феврале 1997 г. зарегистрировался кандидатом в депутаты Государственной думы РФ на дополнительных выборах по Аннинскому избирательному округу № 74 Воронежской области (на место Ивана Рыбкина, ставшего секретарем Совета безопасности). 23 марта 1997 г. был избран депутатом Государственной думы (37,91 %; ближайший соперник Юрий Дунаев — 25,59 %). В Думе второго созыва входил в депутатскую группу «Российские регионы», был заместителем председателя комитета по делам национальностей. 19 июня 1998 г. избран в состав специальной комиссии Государственной думы по оценке соблюдения процедурных правил и фактической обоснованности обвинения, выдвинутого против президента Российской Федерации (комиссия по импичменту).
В ноябре 1998 г. вошел в состав оргкомитета по созданию общероссийского политического общественного объединения (ОПОО) «Отечество» (лидер — Юрий Лужков), в декабре 1998 г. избран членом Центрального Совета ОПОО «Отечество».
В июне 1999 г. заявил о своих разногласиях с руководством «Отечества». В первую очередь несовпадение позиций было по вопросу об альянсе «Отечества» с движением «Вся Россия». Рогозин заявил, что Минтимер Шаймиев и Руслан Аушев для КРО — «сомнительные фигуры». Заявил, что КРО приостанавливает свое членство в «Отечестве».
В сентябре 1999 г. вошел в обще федеральный список избирательного блока «Конгресс Русских общин и Движение Юрия Болдырева» (№ 2 в центральной части списка) для участия в выборах в Государственную Думу РФ третьего созыва. Также был выдвинут кандидатом по Аннинскому одномандатному избирательному округу № 74 (Воронежская область). 19 декабря 1999 г. список блока не преодолел 5-процентный барьер (0,61 %; 12-е место из 26 участников). Сам Рогозин был избран депутатом Государственной думы РФ третьего созыва по Аннинскому округу, получив 32,52 % голосов (ближайший соперник Сергей Рудаков -28,01 %).
В Государственной думе в январе 2000 г. вошел в депутатскую группу «Народный депутат» (лидер — Геннадий Райков). 19 января 2000 г. в результате «пакетного соглашения» возглавил комитет Государственной думы по международным делам.
На президентских выборах 2000 г. поддерживал (как и большая часть группы «Народный депутат») кандидатуру Владимира Путина.
В октябре 2000 г. был выдвинут кандидатом на пост главы администрации Воронежской области на выборах 24 декабря 2000 г., но не стал баллотироваться.
29 сентября 2001 г. на учредительном съезде Народной партии РФ (НПРФ) был избран одним из заместителей председателя партии (председатель — Г.Райков).
23 апреля 2002 г. в Страсбурге выступил с жесткой критикой Совета Европы и назвал вступление России в Совет Европы «большой глупостью».
В июле 2002 г. был назначен спецпредставителем президента РФ по проблемам Калининградской области.
В феврале 2003 г. вышел из НПРФ и объявил о намерении вступить в ряды «Единой России».
В сентябре 2003 г. вместе с Сергеем Глазьевым создал избирательный блок «Народно-патриотический союз «Родина», учредителями ко-торго стали Партия Российских Регионов (Скокова — Глазьева — Рогозина), партия «Народная воля» Сергея Бабурина и Социалистическая единая партия России (СЕПР) Василия Шестакова. Первоначально Глазьев предполагал назвать блок «Товарищ», а соучредителем его вместо «Народной воли» должна была быть Партия труда Олега Шеина. По инициативе Рогозина с соратниками блок сменил окрас с левоцентристского на национал-патриотический.
В сентябре 2003 г. был выдвинут избирательным блоком «Родина» кандидатом в депутаты Государственной думы IV созыва по Аннинскому одномандатному избирательному округу № 76 (Воронежская область).
4 декабря 2003 г. лидер СПС Анатолий Чубайс дал интервью итальянской Corriere della Sera, в котором предупредил о грядущем нашествии «национал-социалистов, бюрократов и фашистов». Носителем этой угрозы, по словам Чубайса, был блок «Родина», возглавляемый Глазьевым и Рогозиным.
На выборах 7 декабря 2003 г. блок «Родина» набрал 9,02 % (4-е место из 23-х). По округу Рогозин получил 192.401 голос или 78.88 % (ближайший соперник Владимир Синицын от КПРФ — 6.91 % голосов). Зарегистрировался во фракции «Родина» (руководитель — Сергей Глазьев).
19 декабря 2003 г. на заседании фракции блока «Родина» был единогласно выдвинут на пост вице-спикера Государственной думы. 29 декабря 2003 г. избран на эту должность. Фракцию возглавил Сергей Глазьев.
22 января 2004 г. президент Путин подписал указ об освобождении Рогозина от обязанностей спецпредставителя президента России по проблемам Калининградской области в связи с выполнением основного комплекса задач по решению вопросов жизнеобеспечения области в контексте расширения ЕС.
21 января 2004 г. вместе с Ю.Скоковым, С.Бабуриным и членом Высшего совета блока «Родина» Александром Ватагиным Д.Рогозин подписал специальное заявление, в котором официально отказался поддержать кандидата в президенты РФ, члена фракции «Родина» С.Глазьева. Сторонники Рогозина в «Родине» поддержали выдвижение кандидатуры Виктора Геращенко, а когда его не зарегистрировали — поддержали Владимира Путина, баллотировавшегося на второй срок.
Уже в декабре 2003 г. начались споры Рогозина с Глазьевым за лидерство и за название «Родина». 30 января 2004 г. на съезде части сторонников избирательного блока «Родина» была учреждена политическая организация «Народно-патриотический союз (НПС) «Родина» во главе с С.Глазьевым, а Рогозин был избран лишь в его Общенациональный совет. Рогозин не участвовал в подготовке съезда, во время его проведения находился в Страсбурге, а после съезда заявил, что никаких последствий, правовых или политических, учреждение НПС «Родина» не имеет.
На III съезде Партии Российских Регионов (ПРР) Рогозин инициировал исключение из партии одного из её сопредседателей С.Глазьева, партия получила новое название — «Родина».
3 марта 2004 г. был избран главой думской фракции «Родина» вместо С.Глазьева. Оставил пост заместителя председателя ГД РФ, который занял С.Бабурин.
В марте 2004 г. воздержался при утверждении Михаила Фрадкова председателем правительства.
6 апреля 2004 г., находясь в Волгограде, предложил вернуть городу «славное и героическое имя Сталинград».
С 14 апреля 2004 г. — член комитета ГД РФ по международным делам.
6 июля 2004 г. на IV съезде партии «Родина» избран председателем партии (вместо семи прежних сопредседателей). За Рогозина проголосовали 257 из 258 делегатов при тайном голосовании. Председателем президиума партии стал депутат Госдумы Александр Бабаков, а секретарем политсовета — Ю.Скоков.
Очевидец событий в Беслане 1–4 сентября 2004 г., где оказался проездом из Южной Осетии. 9 сентября 2004 г. Рогозин сообщил, что фракция «Родина» инициировала в Госдуме сбор подписей для постановки вопроса о недоверии правительству.
13 января 2005 г. два десятка депутатов Государственной думы, в том числе 13 членов партии «Родина» направили в Генеральную прокуратуру обращение с «настоятельной просьбой» официально возбудить дело о запрете в нашей стране всех религиозных и национальных еврейских объединений как экстремистских. Государственная дума и Совет Федерации приняли (соответственно 4 и 9 февраля) постановления, осуждающие обращение как антисемитское.
21 января 2005 г. группа из 5 депутатов фракции «Родина» (Рогозин, Олег Денисов. Михаил Маркелов. Андрей Савельев. Иван Харченко) заявила о намерении провести голодовку в служебном помещении фракции в Госдуме с требованиями:
— отставки министров социально-экономического блока правительства — Михаила Зурабова, Алексея Кудрина, Германа Грефа;
— введения моратория на Закон № 122-ФЗ о монетизации льгот;
— создания Чрезвычайной комиссии для поиска путей выхода из социального кризиса;
— уважения к мнению думской оппозиции — КПРФ и независимых депутатов. 1 февраля 2005 г. голодовка была прекращена.
19 февраля 2005 г. Рогозин сообщил о переходе в жесткую оппозицию власти и заявил, что «Родина» больше не будет «спецназом президента» и что КПРФ для «Родины» является конкурентом, но не врагом, как «Единая Россия».
В июне 2005 г. Федерация еврейских общин России обратилась к руководству Социалистического Интернационала с просьбой не принимать в свои ряды российскую партию «Родина», которая, по мнению ФЕОР, создавала «сильнейшую угрозу распространения фашизма в обществе».
28 июня 2005 г. исключил из фракции «Родина» Сергея Бабурина «в связи с действиями, направленными на раскол фракции и подрыв ее авторитета». 5 июля 2005 г. Совет ГД зарегистрировал думскую фракцию во главе с Бабуриным, которая получила название «Народнопатриотический союз "Родина" (Народная воля — СЕПР)» (Родина-2). В результате раскола два из трёх соучредителей блока «Родина» — партии С.Бабурина и В.Шестакова — оказались в антирогозинской фракции, в результате чего блок «Родина» лишился возможности выдвигать кандидатов на выборах на равных (льготных) условиях с парламентскими партиями, т. к. Центризбирком требовал заверять документы печатями всех трёх блокообразующих партий.
В июле 2005 г. было принято решение о введении во фракции «Родина» института сопредседателей; сопредседателями фракции стали Д.Рогозин, С.Глазьев и В.Варенников.