Первый дубовый храм в честь Успения Пресвятой Богородицы, ставший первой христианской церковью Ростова Великого, был, по преданию, основан первыми святителями, Киевским Михаилом и Ростовским Феодором около 991 года. При нём был учрежден клир и храм стал кафедральной церковью владыки Феодора и последующих Ростовских архиереев, и усыпальницей многих из них.
С постройкой Ростовского Успенского собора также связывают сообщение Киево-Печерского Патерика, о том, что в память о своем чудесном исцелении через пояс преподобного Симона варяга, благоверный князь Владимир Мономах, во время своего княжения, взяв размеры той божественной церкви Печерской, создал во всем подобную церковь в городе Ростове такой же вышины, ширины и длины и на хартии записал, где и в каком месте церкви какой праздник изображен, и все это было повторено по образцу той великой, богом ознаменованной церкви.
Также патерик указывает что Владимир Мономах подарил собору Владимирскую икону Божией Матери. В 1160 году этот храм сгорел в пожаре.
По повелению благоверного князя Андрея Боголюбского в 1162 году на месте прежнего был заложен новый каменный собор. 23 мая 1164 года при копании рвов был обнаружен гроб с нетленными мощами святителя Леонтия, а также гроб святителя Исаии, что послужило прославлению их в лике святых. Вскоре строительство каменной церкви было завершено. Однако, по некоторым данным, своды соборной церкви, воздвигнутые малоискусными зодчими, вскоре обрушились, и храм пришлось возводить еще раз.
Новый Успенский собор был заложен князем Константином Всеволодовичем в 1213 году, а достроен при святом князе Василько в 1231 году. Лишь тогда мощи святителя Леонтия Ростовского вернулись сюда и были помещены в приделе во имя этого святителя. Князья страстотерпцы, Юрий Владимирский и Василько Ростовский, принявшие смерть от татар в 1238 году, были погребены в соборе под алтарём.
После 1253 года, когда молитвами Ростовского святителя Кирилла исцелился сын хана Беркая, тот повелел чтобы вся дань собираемая с Ростова поступала в Усенский собор. Епископ Кирилл украсил собор золотом, жемчугом, драгоценными камениями. Вскоре, когда только прибывший на Русь юный преподобный Петр Ордынский попал на службу в собор, красота убранства и благолепие богослужения в соборе поразили его и окончательно подвигли к принятию Православия. Впоследствии преподобный Петр также венчался здесь.
В 1408 году во время пожара, как свидетельствует летопись, собор погорел со всеми украшениями, и иконы, и книги многие старинные, и сосуды золотые и серебряные, и камни драгоценные, и священные облачения и жемчуга сгорели, камни от пожара распались, и верх церковный провалился.
При этом собор оставался усыпальницей Ростовских владык, среди которых — святители Игнатий I, Ефрем, Вассиан.
Здание собора, дошедшее до XXI века, было построено между 1508 и 1515 годами. Трижды в Успенском соборе побывал царь Иоанн Грозный, и в то время владыка Никандр получил от него жалованную грамоту на владение многими селами, деревнями, угодьями.
6 октября 1608 года собор подвергся нападению поляков. Пан Сапега со своими отрядами, захватив город, приступил к взятию храма, в котором укрылись жители города, священники во главе с митрополитом Филаретом. Иноверцы разбили двери храма, учинили расправу над ростовцами и священниками, взяв в плен архиерея. Церковная сокровищница, золото, серебро, жемчуг, золотая и серебряная раки, оклады икон, все стало их добычей. Впоследствии, из-за похищения раки поляками, мощи святителя Лентия были положены под спудом, у южной стены придела в его честь.
Несмотря на очередное бедствие, храм как всегда вновь украсился. За его долгую историю дорогие вклады на молитвенную память делали епископы и митрополиты, великие князья и цари. Наиболее крупные вклады и благоустроения отмечены в летописях.
Владыка Иона Сысоевич много заботился о внутреннем убранстве соборного храма. В 1659, и в 1669-1670 годах он пригласил мастеров для росписи церкви, а в 1682-1687 годах он построил для собора колокольню, под которой была церковь во имя Входа Господня в Иерусалим. Для колокольни отлили 13 колоколов, из которых самые большие были Сысой — 2000 пудов, Полиелейный — 1000 пудов, Лебедь — 500 пудов.
Стенопись и резной золоченый иконостас собора неоднократно обновлялись. В 1763 году стены Успенского собора были расписаны на деньги, пожертвованные императрицей Екатериной II. В конце XIX века здесь бывали высшие лица императорской фамилии, а в 1913 году государь Николай II начал знакомство с городом с посещения Успенского собора. Чудотворные мощи ростовских святых, чудотворная Владимирская-Ростовская икона Божией Матери и иные сохранявшееся тут древние образа привлекали в собор богомольцев со всей России.
После революции 1917 года собор некоторое время оставался действующим. В 1920 году мощи святителей Ростовских Исаии и Игнатия были вскрыты для освидетельствования. С 1922 года началось изъятие ценностей, которое проводилось затем неоднократно. В 1935-1936 годах храм закрыли и использовали как склад.
В 1990 году Успенский собор был возвращён Русской Православной Церкви и вскоре стал вторым кафедральным собором Ярославской епархии.