29 апреля генерал-полковник Енеке в Берхтесгадене был принят Гитлером. В своем докладе Енеке заявил, что 17-я армия больше не имеет возможностей удерживать Севастополь. Гитлер потребовал от него письменно изложить свое мнение о дальнейших возможностях обороны.
1 мая в середине дня начальник управления кадров сухопутных войск и шеф-адъютант Гитлера генерал-лейтенант Шмундт по телефону сообщил генерал-полковнику Шернеру, что на основании письменного доклада Гитлер считает, что не может больше доверять генерал-полковнику Енеке оборону Севастополя и освобождает его от командования 17-й армией. Новым командующим назначен генерал Альмендингер.
По приказу фюрера с 1 по 12 мая 1944 г. в Севастополь было доставлено из Констанцы два маршевых батальона общей численностью 1300 человек, 15 противотанковых пушек, 10 миномётов, 4 тяжёлых полевых гаубицы и несколько лёгких орудий и миномётов.
С 29 апреля наши артиллерия и авиация начали систематически разрушать укрепления противника. Авиация фронта, флота и приданная Ставкой авиация дальнего действия до 5 мая совершила 8200 самолёто-вылетов.
Главный удар в новом наступлении на Севастополь Толбухин решил нанести на левый фланг силами Приморской армии и 63-го корпуса 51-й армии на участке Сапун-гора – Карань, чтобы выйти к морю западнее Севастополя. Но для введения немцев в заблуждение и чтобы сковать их силы, 5 мая войска 2-й гвардейской армии при мощной поддержке 2-й воздушной армии атаковали противника с севера. Тогда немцы перебросили на это направление часть резервов. А 6 мая частью сил перешла в наступление наша 51-я армия, и в 10 ч. 30 мин. 7 мая нанесла главный удар Приморская армия.
На участке обороны немцев у Сапун-горы Толбухин сосредоточил от 205 до 258 стволов артиллерии и миномётов на километр фронта. Специально для Севастополя из Резерва Главнокомандования были доставлены несколько десятков 203-мм гаубиц Б-4. Кроме того, из состава гвардейских миномётных частей фронта здесь действовало три из четырёх гвардейских миномётных бригад М-31, восемь из десяти гвардейских миномётных полков, три отдельных горно-вьючных дивизиона. Всего по Сапун-горе вели огонь 604 пусковые установки реактивных снарядов М-8, М-13 и М-30.
Серьезную поддержку наступавшим войскам оказывала 8-я воздушная армия, которая произвела 7 мая 2105 самолёто-вылетов. К этому времени в составе 8-й армии имелось 1023 самолёта, из них 141 бомбардировщик, 134 лёгких бомбардировщика По-3, 461 штурмовик Ил-2. А у немцев в Крыму осталось лишь 10 пикирующих бомбардировщиков Ю-87, 60 истребителей и 20 разведчиков.
По приказу маршала Ворошилова первыми в атаку на Сапун-гору пошли штрафные батальоны (всего не менее 5 тысяч человек). Ни один из них не дошел до вершины. В многочисленных официальных трудах, посвященных взятию Севастополя в 1944 г., нет ни слова о штрафниках. Зато о них часто упоминают в своих воспоминаниях участники штурма – солдаты и младшие офицеры.
Ураганный огонь артиллерии и мужество советских солдат сделали свое дело – укрепления Сапун-горы были взяты за 9 часов непрерывного штурма.
На второй день штурма, 8 мая, больших успехов достигла 2-я гвардейская армия. Войска 13-го гвардейского и 55-го стрелкового корпусов выбили противника с Мекензиевых гор и к вечеру подошли к Северной бухте. Остатки немецкой 50-й пехотной и румынской 2-й горнострелковой дивизий были отрезаны от главных сил и прижаты к морю.
В этот же день войска 51-й и Приморской армий прорвали главную полосу обороны противника и вышли к внутреннему обводу обороны города.
Еще 22 апреля штаб Адмирала Черного моря и штаб 17-й армии разработали план операции «Леопард» для планомерной эвакуации из крепости Севастополь в течение 14 дней. В соответствии с ним, после эвакуации большей части армии должен был отходить северный фронт обороны, через пять дней после подхода транспортов предполагалось в течение двух суток эвакуировать оставшихся 28 тыс. солдат морем и 4500 человек авиацией.
8 мая в 21 час 15 мин. командующий группой армий генерал-полковник Шернер доложил начальнику Генштаба сухопутных войск о катастрофическом положении 17-й армии в Крыму, и в 23 часа он получил разрешение Гитлера на эвакуацию. С 23 ч. 10 мин. до 23 ч. 35 мин. Шернер сообщил об этом приказе начальнику штаба 1-го авиационного корпуса и Адмиралу Черного моря. Отправка подкреплений в Крым отменялась. 9 мая в 2 ч. 15 мин. приказ был получен в штабе армии.
Сразу после получения приказа об отходе командование 17-й армии решило отвести все имеющиеся силы на позицию у Николаевки, однако уже в середине того же дня от этого замысла пришлось отказаться, так как советские войска прорвались в город и в порт Севастополь.
Портовые сооружения Севастополя были разрушены группой морских саперов. 1-я десантная флотилия заминировала Северную, Южную и Стрелецкую бухты. Всего была поставлена 71 донная мина.
9 мая остатки немецких войск, неся тяжёлые потери, заняли последний херсонесский оборонительный рубеж. Остатки 73-й пехотной дивизии были опрокинуты советскими войсками. Этим была нарушена оборона на южном участке. Севернее немецкие командиры предприняли неудачную контратаку, пытаясь отбить позицию у Николаевки. После этого наступательный порыв немцев окончательно был исчерпан. Позиции 98-й пехотной дивизии, часть которой ещё оборонялась у Инкермана, а главные силы контратаковали Сапун-гору, были прорваны. Остатки защищавших северный сектор 50-й и 336-й пехотных дивизий вынуждены были пробиваться через части противника, начавшие переправляться через Северную бухту.
9 мая советская артиллерия открыла огонь по аэродрому у мыса Херсонес. Вечером того же дня 13 последних немецких истребителей вылетели на материк. Только транспортные самолёты Ю-52 ночами с 9 на 10 и с 10 на 11 мая продолжали садиться на вспомогательных полосах для эвакуации раненых. 50 самолётов Ю-52 в последнюю ночь были сильно перегружены (в каждом перевозилось до 30 раненых), но всего было вывезено до тысячи человек. Самолёты Хе-111 8 мая использовали также любую возможность для вывоза раненых. Всего с 12 мая самолётами на материк было вывезено 21 457 солдат, из них 16 387 раненых. С 4 по 14 мая самолёты 1-го воздушного корпуса совершили 2342 самолёто-вылета. Из них с аэродромов в Севастополе – 809 вылетов, с материка в интересах сухопутных войск – 398, для охранения конвоев – 803, для морской разведки – 245 и с целью спасения на море – 87 вылетов.
Спасательными германскими самолётами спасено в море 109 человек. Потери самолётов, базировавшихся в Крыму, составили: два самолёта подбиты советскими истребителями, один подбит своим зенитным огнём, два разбиты на земле, два пропали без вести. 76 поврежденных самолётов, которые невозможно было вывезти на материк, были уничтожены на аэродроме. Из самолётов, действовавших с материка, два пропали без вести, один сбит советскими ночными истребителями.
После принятия решения об эвакуации, в ночь с 8 на 9 мая внимание всех обратилось в сторону флота. От него теперь зависело спасение или гибель 17-й армии.
С 12 апреля по 8 мая из Крыма в Констанцу и Сулину были перевезены 64 563 солдата, 9424 раненых, 11 358 гражданских лиц и 4260 военнопленных.
К эвакуации своих войск из Крыма немцы привлекли практически все суда и плавсредства, имевшиеся у них на Чёрном море. Впервые за войну в районе Севастополя активно действовали румынские корабли, включая эсминцы. Ранее же по политическим соображениям Антонеску запрещал им заходить так далеко. (А может, боялся потерять свой флот?) В любом случае, в 1941–1943 гг. румынские корабли действовали у своего побережья и лишь иногда сопровождали конвои до Одессы и Николаева, хотя, впрочем, эти города румыны считали своей территорией.
В связи с наступлением советских войск 1-я флотилия торпедных катеров была переведена из Иван-баба (Двуякорной бухты) в Констанцу, однако часть её продолжала действовать с временных баз в Балаклаве и Севастополе. Её катера использовались прежде всего для дальнего охранения конвоев и прикрытия транспортных путей. При повторяющихся боевых столкновениях с советскими катерами успеха достигнуто не было, так как после открытия огня противник уклонялся от боя.
В свою очередь 19 апреля советские торпедные катера Г-6, № 313, 331, 332, 343, 344 и 353 перешли из Анапы в Ялту для действий на коммуникациях противника в районе Севастополя.
Успешным могло быть применение реактивных снарядов по береговым целям. Но их наши катера по объектам у Севастополя использовали лишь два раза. Так, 23 апреля два катера выпустили реактивные снаряды по району Константиновской батареи. А 29 апреля торпедный катер № 126 выпустил 24 снаряда М-13 по аэродрому на Херсонесе.
Кроме этого, наши корабли не оказывали никакого огневого воздействия на противника в районе Севастополя. Зато 3-я немецкая флотилия артиллерийских барж применялась близ Севастополя для обстрела советских позиций на северном фронте обороны.
30-я флотилия германских подводных лодок (шесть лодок II серии) с 30 июня 1943 г. по 16 января 1944 г. потопила два танкера – «Эмба» и «Валян Куторы» – и шхуну «Тонанс». А в конце апреля – начале мая германские подводные лодки ожидали у Поти, Батуми и Туапсе выхода в море советских кораблей, но, увы, никто из них идти к берегам Крыма не собирался. За неимением лучшего одна из лодок – U-9 – атаковала конвой, шедший из Сухуми в Туапсе. Выпущенная ею акустическая самонаводящаяся торпеда поразила корму сторожевого корабля «Шторм». Корабль разломился надвое, кормовая часть утонула, а носовую удалось отбуксировать в порт Туапсе.
В полночь с 9 на 10 мая командующий 17-й армией генерал Альмендингер и его начальник штаба генерал-майор Ксилендер сели на торпедный катер S-51 и покинули Крым. Командование войсками на Херсонесском плацдарме принял командир 49-го армейского корпуса генерал Хартман.
В течение 10 мая советские войска продолжали атаки херсонесской позиции. Немцам с трудом удалось их отбить. Усилились огонь советской артиллерии и налеты авиации. Большая часть мест для погрузки была расположена в Казачьей и Камышовой бухтах. Поскольку эти пункты находились в центре позиции, они очень хорошо подходили для главных погрузочных пунктов. Большие транспорты, которые сами не могли подойти к пристаням, должны были становиться у входа в бухты, а погрузка на них должна была осуществляться с паромов 770-го саперно-десантного полка. Причалы защищали лёгкие и тяжёлые зенитные батареи 9-й зенитно-артиллерийской дивизии.