Музей истории города Ярославля открыт в августе 1985 года в качестве филиала Ярославского государственного музея-заповедника. С 1998 года самостоятельный муниципальный музей.
Музей истории города работает в помещениях купеческой усадьбы на Волжской набережной. Существующее главное здание усадьбы построено в 1893 — 1894 годах на средства купца I гильдии Василия Яковлевича Кузнецова, потомственного почетного гражданина. По некоторым данным, состояние В. Я. Кузнецова к концу его жизни приближалось к 1 млн. руб.
Василий Яковлевич умер в августе 1901 года и был похоронен на Леонтьевском кладбище в Ярославле. Согласно завещанию, дом на Волжской набережной перешёл в собственность вдове Елизавете Максимовне Кузнецовой, со всею при нем землей и постройками на ней. В 1918 году дом был национализирован и заселён новыми жильцами, потеснившими хозяйку. Потом в разное время здесь располагались, Дом матери и ребенка, детская больница имени 8 марта, глазное и хирургическое отделение I клинической больницы. В августе 1985 года, спустя почти столетие после постройки, дом открыл свои двери в качестве Музея истории города, филиала Ярославского государственного музея-заповедника. В 1998 году по инициативе мэра города В.В. Волончунаса, поддержанной губернатором А.И. Лисицыным, был создан муниципальный музей. Его создание было продиктовано приближающимся 1000-летним юбилеем города. В связи с этим возникла необходимость открыть городской музей с исторической экспозицией, рассказывающей о десяти веках истории Ярославля. В новом статусе Музей возглавил Владимир Георгиевич Извеков. На его плечи и плечи возглавляемого им коллектива легли заботы о переустройстве Музея. В общей сложности потребовалось менее года, чтобы провести ремонтно-реставрационные работы внутренних помещений, фасада здания и создать новую экспозицию. Проект финансировался из городского бюджета и спонсорских средств промышленных предприятий, организаций и учреждений города, которых набралось более 40. Все они занесены в Книгу друзей Музея и увековечены на специальном информационном стенде. Над воссозданием внутреннего облика здания конца XIX века и музеефицированием интерьера работали ведущие архитекторы-реставраторы фирмы, Ярреставрация, С. Н. Столярова и С. Е. Новиков. Параллельно с реставрационно-ремонтными работами велась интенсивная творческая деятельность. Была создана группа экспозиционеров, которая в короткий срок сумела разработать концепцию будущей экспозиции, Ярославль, в истории России, человек в истории Ярославля. Уникальность нового Музея в том, что он строился не на основе какой-либо уже существующей коллекции, как это обычно бывает в музейном деле, а практически с колес. Срочно собирались экспонаты, часть из них предоставили другие ярославские музеи, Ярославский государственный историко-архитектурный и художественный музей-заповедник и Ярославский художественный музей. Основная часть экспозиции, Десять веков истории Ярославля, построена в хронологическом порядке. Были созданы тематические залы, Выдающиеся ярославцы XX века, Международные связи города, Ярославль глазами художников и Зал трудовой славы ярославцев, два первых открыты и в настоящее время. Для посещения Музей истории города Ярославля в новом статусе открыл свои двери в День города 29 мая 1999 года. Особенностью экспозиции, Десять веков истории Ярославля, является то, что на ней, как ни в одном другом ярославском музее, прослеживается вся история древнего города, от его основания в XI веке и практически до наших дней. Экспозиция включает в себя шесть тематических залов. Своеобразие исторического прошлого города подчёркивается на фоне общего исторического процесса. Экспонаты первого зала, археологические находки, памятники письменности, копии миниатюр, отражают раннюю историю города, с момента основания в начале XI века и до конца XV века. Центральное место в экспозиции занимает макет Ярославля начала XIII века, выполнен художником Л. П. Кожевниковым. В конце XV века ярославское княжество вошло в состав Московского государства. История Ярославля периода Московского царства представлена во втором зале экспозиции. Здесь имеются тематические комплексы, посвященные Смутному времени. В них представлены предметы вооружения и снаряжения, рогатины, копье, бердыш, сабля, кольчуга и шлем. Рядом многочисленные иллюстративные материалы, портреты, виды городов, рисунки воинов XVII века. На экспозиции можно увидеть изразцы, цветную черепицу, позолоченные подзоры, украшавшие некогда ярославские храмы. Особый интерес вызывает бытовой комплекс, состоящий из подлинных предметов XVII века, ларцы, сосуды, светец, секирный замок. В начале XVIII века в период петровских реформ Ярославлю суждено было стать одним из крупнейших мануфактурных центров России. Об этом говорят экспонаты следующего третьего зала экспозиции. Большинство из них посвящено Ярославской Большой мануфактуре, владельцами которой являлись ярославские предприниматели Затрапезновы. Тематический комплекс посвящен учреждению в 1777 году Ярославской губернии. Представлены материалы о создании в Ярославле первого русского профессионального театра. Экспозиция третьего зала завершается показом архитектурных памятников Ярославля периода классицизма. Отдельный тематический комплекс четвертого зала посвящен развитию промышленности города, владельцам крупных торговых предприятий. Экспозиция пятого зала состоит из двух разделов. Первый из них посвящен политической истории города. Это события Первой русской революции и Первой мировой войны, свержение монархии, приход к власти социалистических партий. Наряду с фотографиями и документами демонстрируются вещевые и изобразительные материалы. Центральное место в этой части экспозиции занимают материалы, посвященные ярославскому восстанию в июле 1918 года. Несколько тематических комплексов посвящены экономике города, строительству новых промышленных предприятий, модернизации старых заводов и фабрик. В условиях начавшейся Великой Отечественной войны промышленные предприятия города были перестроены на выпуск оборонной промышленности. Об этом также говорят экспонаты, представленные на экспозиции. Истории города второй половины ХХ века посвящен шестой зал экспозиции. Условно он также поделен на две части. В первой из них представлены экспонаты, рассказывающие об экономике и культуре города 1960 — 1980 годов. Рядом с фотографиями, документами, печатными изданиями на экспозиции представлены подлинные предметы того времени. Второй раздел посвящен современной истории города. Начало ему положили события 1991 года. Представленные в этой части экспозиции материалы, это многочисленные фотографии и документы, характеризующие экономику и события культурной жизни Ярославля конца XX века — начала XXI века. Историческую экспозицию дополняют историко-тематические экспозиционные залы, Знаменитые земляки и Международные связи Ярославля. В первом из них представлены личные вещи, документы, фотографии, награды уроженцев Ярославля, выдающихся деятелей науки, культуры, образования. Экспозиция второго тематического зала посвящена городам-партнерам Ярославля. В мае 2002 года открылась экспозиция, Из истории ярославской медицины, а в 2016-м году тематическая экспозиция, Памятник Всемирного наследия, посвященная исторической части Ярославля, включенной в 2005 году в Список Всемирного наследия ЮНЕСКО. Центральная часть Ярославля, признанная, универсальной ценностью, получила высокий международный статус. В исторической части города на площади 110 гектар расположено 350 памятников. На экспозиции, Памятник Всемирного наследия, представлены археологические находки, документы, печатные издания, фотографии, позволяющие восстановить картину формирования планировочной структуры города, организации городской среды, наполненной постройками разных исторических эпох и архитектурных стилей. Один из комплексов посвящен проблемам изучения и популяризации историко-культурного наследия города. Музей истории города Ярославля с 2000 года имеет два филиала, Городской выставочный зал имени Н. А. Нужинаи, Центр белорусской культуры, Музей М. Богдановича. Регулярно проводятся выставки, праздники и другие мероприятия, посвящённые памятным датам в истории Ярославля. С марта 2012 по май 2019 года музей возглавлял директор Валерий Васильевич Величко. 14 мая 2019 директором назначен Александр Витальевич Нечаев.