Период пребывания Византия под властью Афин был очень недолгим — всего около четырех лет. В конце Пелопоннесской войны спартанцам удалось установить свое господство на берегах Эгейского моря и Пропонтиды. В 405 г. до н. э. Византий оказался в числе тех городов, которые были захвачены флотом спартанцев под командованием Лисандра. На этот раз в Византии взяли верх представители олигархии. Именно они открыли ворота воинам Лисандра. Поскольку спартанцы повсеместно уничтожали демократию и восстанавливали власть олигархов, часть населения Византия, поддерживавшая демократический строй, покинула город после вступления в него отряда Лисандра, бежав либо в Афины, либо в дружественное Византию Боспорское царство.
Своеобразным было решение победителей относительно судьбы небольшого афинского гарнизона Византия, не оказавшего практически сопротивления спартанцам. Лисандр отправил всех пленных афинян в их родной город, продовольственное положение которого было в тот момент весьма бедственным.
Спартанское владычество в условиях победы Спарты в войне с Афинами оказалось значительно более тягостным для населения Византия, чем ранее. Спартанцы ввели новые подати, а многих доходов, в частности торговых пошлин и привычных портовых сборов, казна Византия лишилась. Положение византийцев осложнялось и тем, что их соседи фракийцы стали тревожить город нападениями. Собственное войско Византия было не в состоянии надежно защитить город. Спартанский же гарнизон был слаб, к тому же спартанские хозяева города более всего помышляли об использовании военной силы для обеспечения покорности византийцев. Спартанский наместник (гармост) осуществлял свою власть с помощью правительства, составленного из местных олигархов. Демос страдал не только от ига чужеземцев, но и от гнета собственной знати. Из-за прекращения торговли с Афинами резко ухудшилось экономическое положение Византия; ремесленники и торговцы переживали трудные времена. Недовольство населения грозило выплеснуться наружу.
Тогда византийские олигархи попросили Спарту о военной помощи. В Византий был направлен с большим войском уже известный его жителям Клеарх. На этот раз он решил сурово покарать византийцев за непокорность. Он созвал византийских военачальников, а когда те собрались, спартанские воины неожиданно напали на них и перебили. Затем он казнил почти всех представителей гражданской власти, известных антиспартанскими или демократическими настроениями. Клеарх убивал или изгонял из города многих состоятельных людей просто для того, чтобы завладеть их имуществом. Тирания Клеарха оказалась настолько невыносимой, что против него ополчилась даже часть тех самых олигархов, которые добивались от Спарты военной поддержки. Они стали жаловаться на Клеарха в Спарту. Вскоре между слишком самостоятельным наместником и спартанским правительством произошел разрыв: в 403 г. Клеарх был изгнан из города новым спартанским гармостом. Тот не действовал так жестоко, как Клеарх, а потому недовольство византийцев господством Спарты и властью местной олигархии не вылилось в открытое выступление. Постепенно Византий превратился в один из важных военных опорных пунктов Спарты, а его гавань — в место стоянки флота спартанцев.
В 400 г. до н. э. Византий стал ареной столкновения между спартанским гарнизоном города и греческими наемниками, которые участвовали в неудачном походе персидского сатрапа Малой Азии Кира, добивавшегося установления своей власти над всей державой персов. Многие из этих наемников были выходцами из Спарты. После поражения и гибели Кира отряды наемников с бесчисленными приключениями добрались до Византия. Спартанский наместник попытался избавиться от опасных пришельцев. Он выманил их из города под предлогом военного построения для точного определения их численности. Как только незваные гости оказались вне городских стен, ворота Византия закрылись. Наемникам было объявлено, что им следует возвращаться в родные края. Однако долго скитавшиеся и закаленные в битвах воины были не из тех, кому можно диктовать условия. Они ворвались в Византий и некоторое время хозяйничали там. Наемники даже решили провозгласить властителем Византия своего предводителя Ксенофонта (в будущем знаменитого историка). Однако тот, не рассчитывая удержать город, вывел наемников из Византия и повел их на запад, во владения фракийцев. Здесь греческие наемники оставили о себе недобрую славу: они бесчинствовали во фракийских деревнях, грабя и убивая всех без разбора.
От бесконечных осад и сражений, неоднократной смены властей особенно страдали торговля и ремесленное производство Византия; разорены были и окрестные земли, а многие земледельцы бросали свои участки и искали заработка в городе; но и здесь из-за сокращения морского торгового оборота их чаще всего ожидала неудача.
Поскольку черноморские проливы были закрыты для афинских купцов, Византий потерял свое исключительное значение посредника в понтийской хлебной торговле. Благосостояние большинства жителей Византия, зависевшее от торговых операций, значительно ухудшилось после победы спартанцев. Казна Византия с каждым годом все более опустошалась, лишенная привычного притока торговых и портовых пошлин. В результате в городе усилились проафинские настроения. И когда во времена Коринфской войны Афинам удалось восстановить свой флот и вновь лишить Спарту господства на море, жители Византия с восторгом встретили (в 389 г. до н. э.) прибывшую в проливы афинскую эскадру под командованием Фрасибула. Спартанский гарнизон Византия был малочислен, да и горожане не оказали на этот раз поддержки спартанцам. Поэтому воины Фрасибула практически не встретили сопротивления. Спартанский наместник был изгнан, олигархический строй заменен демократией. Афины вернули себе контроль над проливами, столь необходимый для их торговли. Спарта, правда, сделала попытку восстановить свою власть над городами Геллеспонта. Была организована большая морская экспедиция под водительством Анаксибия. Однако афиняне под руководством Ификрата разгромили спартанцев.
История приписывает Фрасибулу учреждение в пределах Византия новой морской таможни. При этом Афины передали на откуп самим византийцам право взимания десятипроцентной пошлины за проход судов через проливы. С одной стороны, это увеличило торговое значение Византия и повысило благосостояние его жителей, а с другой — создало очень важную для Афин связь с Византием на основе обоюдной экономической заинтересованности. Для Византия наступила пора процветания, основой которого была оживленная торговля не только с городами материковой Греции и Понта Евксинского, но и со многими торговыми центрами Малой Азии и юга Эгейского моря. В тот период Византий был, по сути дела, независимым городом. Афины не препятствовали проведению им самостоятельной внешней политики, не противоречившей их интересам. Некоторое время Византий был членом союза городов-государств, в который входили, в частности, Родос, Самос и Эфес. Основной целью объединения этих городов была борьба с пиратами в водах Эгейского моря. Особенно тесные связи, основанные на общности торговых интересов, поддерживал Византий с Родосом. Родосские суда чаще всех посещали Золотой Рог.
В то время Византий был одним из самых верных сторонников Афин. Когда возникла ситуация, благоприятная для создания нового объединения греческих полисов вокруг Афин, одним из инициаторов^ его организации стал именно Византий. В 378 г. дон.э. Византий оказался в числе пяти городов с демократическим устройством, которые приняли решение заключить союзный договор с Афинами, находившимися в тот момент в состоянии войны со Спартой. В числе этих городов были также Хиос и Митилены. Договоры Афин с этими городами заключались вначале как двусторонние, а потому византийские послы побывали в Афинах, где их принимали с почетом. Так через столетие после создания Афинского морского союза возникло новое надгосударственное образование, которое вошло в историю под названием Второго Афинского морского союза. Он отличался от своего предшественника тем, что несколько десятков присоединившихся к нему городов обеспечили себе закрепленную в соглашении автономию во внутренних делах. В компетенцию Афин входили главным образом вопросы внешней политики. Члены союза не вносили фороса, который был памятен как обременительная и унизительная дань Афинам, они договорились о добровольных взносах на военные нужды. Такие условия объединения были очень выгодны византийцам. Город обеспечивал себе и защиту от спартанцев, и экономическое процветание.
В первые годы после создания союза афиняне не вмешивались во внутренние дела Византия, но затем начали вновь проявлять стремление к господству. Вследствие этого среди византийцев стали крепнуть антиафинские настроения. В 364 г. до н. э. в черноморских проливах появилась фиванская эскадра под командованием Эпаминонда. К тому времени Фивы превратились в одно из самых сильных государств Греции. Византий вышел из Афинского морского союза, решив в дальнейшем опираться на помощь Фив, которые были заинтересованы в союзе с богатым торговым городом. Однако афиняне послали к Византию большой флот и силой вернули византийцев в Афинский союз. С тех пор отношения между Афинами и Византием носили далеко не дружественный характер. Теперь уже Византий не был представителем и торговым посредником Афин на понтийском торговом пути. Более того, византийцы позволяли себе действия, направленные прямо против Афин. Например, они нередко принуждали афинян разгружать суда в порту Византия и захватывали груз (обычно это бывал хлеб). Афиняне были вынуждены регулярно направлять в проливы военные корабли для охраны караванов судов с зерном. Примечательно, что местом стоянки афинских военных кораблей была в тот период не гавань Византия, а небольшой залив на азиатском берегу Босфора. Антиафинские настроения жителей Византия проявлялись и в том, что силой возвращенный в Афинский союз город продолжал поддерживать с Фивами самые дружественные отношения. Византий даже оказывал Фивам материальную помощь в трудные для тех времена.