Модель новой машины, получившей обозначение Sturmgeschütz auf Fahrgestell Pz.Kpfw.IV mit der 7,5 cm KwK 42 L/70, продемонстрировали Гитлеру 2 октября 1942 года. По сравнению с StuG III эта самоходка имела более мощную бронезащиту. Кроме того, пушка устанавливались в рамке, закрепленной в лобовом листе рубки, а не на станке, размещенном на днище корпуса, как у StuG III. Однако на пути новой САУ к серийному производству имелось одно непреодолимое препятствие — 75-мм пушка KwK 42 L/70 еще не была готова. Тем не менее фюрер распорядился не замораживать работы над машиной, а в качестве временной меры вооружить ее 75-мм пушкой PaK 39 L/48. Тогда же определили и завод-изготовитель — Vomag в г. Плауен в Саксонии. Деревянный макет САУ в натуральную величину, изготовленный на заводе Vomag, показали Гитлеру 13 мая 1943 года, а 20 октября продемонстрировали первый прототип еще из неброневой стали. В конце года на испытания поступили две полноценных боевых машины так называемой «нулевой серии». Тогда же название САУ изменили на Jagdpanzer IV (Sd.Kfz.162).
Характерной особенностью нового истребителя танков была малая высота — всего 1850 мм. Корпус машины сваривался из катаных броневых листов. Лобовой лист корпуса толщиной 60 мм располагался под углом 45°, а лобовой лист рубки такой же толщины — под углом 60° к вертикали. Борта рубки имели толщину 30 мм и наклон 30°. В лобовом листе корпуса в рамке, закрытой массивной литой маской, устанавливалась 75-мм пушка PaK 39 с длиной ствола 48 калибров. По конструкции и баллистике она была идентична пушкам KwK 40 и StuK 40. Вертикальные углы наведения колебались в пределах от -5° до +15°, горизонтальные — по 20° на сторону. Бронебойный снаряд, покидавший ствол орудия с начальной скоростью 790 м/с, на дистанции 1000 м пробивал 88-мм броню, расположенную под углом 30°. Подкалиберный снаряд при начальной скорости 990 м/с на такой же дистанции пробивал броню толщиной 97 мм. Боекомплект пушки состоял из 79 выстрелов.
Оригинальным образом было размещено дополнительное вооружение. Слева и справа от пушки в лобовом листе корпуса имелись амбразуры, закрывавшиеся сдвижными конусообразными литыми крышками. В правой устанавливался пулемет MG 34 или MG 42, а через левую можно было вести огонь из пистолета-пулемета MP 40 или штурмовой винтовки MP 44. Боекомплект пулемета состоял из 1200 патронов, уложенных в восемь коробок по 150 патронов в каждой.
Наведение пушки в цель осуществлялось с помощью перископического прицела Sfl.Zf.1a, имевшего 5-кратное увеличение и поле зрения 8°. Для перемещения головки прицела во время горизонтального наведения орудия в крыше рубки имелся дугообразный паз.
Следует отметить, что значительная часть узлов и агрегатов корпуса, двигатель, трансмиссия, ходовая часть и электрооборудование Jagdpanzer IV были заимствованы у танка Pz.IV. Вместе с тем имелись и некоторые изменения. В отличие от Pz.IV топливные баки, размещавшиеся под поликом боевого отделения, располагались рядом с местом заряжающего и непосредственно под пушкой. Третий бак находился на том месте, где в танке был установлен двухцилиндровый двигатель DKW электромеханического привода поворота башни. Была изменена также система вентиляции боевого отделения и тормозов. Переместился под сиденье наводчика эвакуационный люк в днище корпуса. Экипаж Jagdpanzer IV состоял из четырех человек. В передней части корпуса слева размещался механик-водитель, в боевом отделении справа от пушки — заряжающий (он же радист), слева от пушки — наводчик, за ним — командир машины.
Двигатель, трансмиссия и ходовая часть обеспечивали САУ массой 24 т движение с максимальной скоростью 40 км/ч. Запас хода по шоссе составлял 250 км.
Серийное производство Jagdpanzer IV началось в январе, а закончилось в октябре 1944 года. За этот период были изготовлены 804 боевых машины. В результате ударов авиации союзников по заводу Vomag выпуск САУ отставал от запланированного.
Первые изменения в конструкцию Jagdpanzer IV внесли уже в январе 1944-го — в крыше рубки разместили 27-мм гранатомет «оружия ближнего боя». Его боекомплект состоял из 16 осколочных гранат. Со следующего месяца на лобовой броне корпуса начали монтировать планку-зацеп для 14 запасных траков. Вскоре, впрочем, из-за перегруженности передних опорных катков ее перенесли на корму. При этом количество возимых запасных траков возросло до 17.
В марте 1944 года левую амбразуру в лобовом листе корпуса заглушили. Машины, выпущенные в конце марта — начале апреля получили дистанционно управляемую установку пулемета MG 42, которая устанавливалась на крыше рубки. Огонь из нее вел заряжающий. В апреле толщину лобовой брони корпуса и рубки довели до 80 мм, а бортов рубки — до 40 мм. Левую амбразуру ликвидировали окончательно.
Пушки Jagdpanzer IV, выпущенных до конца мая, оснащались дульным тормозом. Однако в боевых частях его обычно демонтировали. При стрельбе, из-за небольшой высоты линии огня, работа дульного тормоза поднимала густое облако пыли, которое затрудняло прицеливание и демаскировало самоходку. В бою с танками противника и то и другое было весьма существенным. Поэтому с конца мая САУ стали покидать цехи уже без дульного тормоза — его попросту свинчивали, но уже в заводских условиях.
С сентября 1944 года на сборку САУ стали поступать шасси танков Pz.IV Ausf.J с тремя поддерживающими катками без резиновых бандажей. Примерно с этого же времени боевые машины перестали покрывать «циммеритом».
Некоторая часть машин была выпущена в командирском варианте. Эти САУ кроме штатной радиостанции FuG 5 получили вторую — FuG 8, легко узнаваемую по антенне с характерной «метелкой». Экипаж командирских «ягдпанцеров» состоял из пяти человек.
В январе 1944 года первые серийные Jagdpanzer IV поступили в дивизию «Герман Геринг», воевавшую в Италии. В составе противотанковых дивизионов они использовались на всех фронтах. Каждый дивизион — Panzerjäger Abteilung — состоял из двух батарей по 14 танков-истребителей в каждой и трех штабных машин. Всего в дивизионе имелся 31 ягдпанцер. Такую организацию имели отдельные противотанковые дивизионы. В составе танковых дивизий эти подразделения имели иную организацию — в их состав входили только 22 машины. Боевое применение ягдпанцеров в целом было весьма удачным, но САУ первых выпусков с 60-мм лобовой броней были довольно быстро потеряны. С осени 1944 года Jagdpanzer IV начали вытесняться из противотанковых дивизионов танками-истребителями Panzer IV/70.
По состоянию на 30 декабря 1944 года в боевых частях находилось 268 Jagdpanzer IV: 209 машин на Восточном фронте и 59 — на Западном. Из этого числа исправными были 174 САУ.
Как уже упоминалось выше, установка 75-мм пушки PaK 39 в Jagdpanzer IV была временной мерой. Однако к началу 1944 года мощная «пантеровская» 75-мм пушка KwK 42 L/70 уже находилась в серийном производстве, и на повестку дня вновь встал вопрос об оснащении эти орудием истребителя танков. Для этой цели, правда, в конструкцию пушки пришлось внести некоторые изменения, после чего ее индекс поменялся на 7,5 cm StuK 42 L/70. 20 апреля 1944 года прототип Jagdpanzer IV L/70 продемонстрировали Гитлеру. Фюрер на радостях потребовал выпускать ежемесячно по 800 таких машин, что с учетом тогдашних возможностей германской промышленности было совершенно нереально. Поэтому вскоре приняли обоснованную производственную программу, предусматривавшую выпуск до мая 1945 года 2020 машин. Но целый ряд обстоятельств помешал осуществлению этих планов и затормозил начало серийного производства. Дело в том, что прототип Jagdpanzer IV L/70 более известного под названием Panzer IV/70 представлял собой серийный Jagdpanzer IV позднего выпуска, в котором заменили пушку. Первые же испытания показали, однако, что требуется внести в конструкцию САУ и другие изменения. Установка новой более тяжелой, чем штатная, пушки (1000 кг против 750 кг у PaK 39) еще больше утяжелила переднюю часть машины. По расчетам конструкторов для более или менее равномерного распределения нагрузки на ходовую часть было необходимо либо сдвинуть вперед на 100 мм переднюю тележку опорных катков, либо уменьшить толщину лобовой брони с 80 до 60 мм. Ни того, ни другого нельзя было сделать без кардинальных изменений в конструкции корпуса. Пришлось идти на компромисс: корпус оставили как есть, но из машины изъяли переднюю боеукладку (боекомплект сократился на 24 выстрела), а обрезиненные катки передней тележки заменили на необрезиненные. В таком виде 11 августа 1944 года машина и была представлена Гитлеру, который дал «зеленый свет» серийному производству. Более того, фюрер вновь высказался за то, чтобы полностью прекратить выпуск танков Pz.IV и все мощности занятых в этом предприятий бросить на производство «ягдпанцеров». И опять против такого решения решительно высказался генерал Гудериан, и идея Гитлера осталась нереализованной.