Часовня была построена в память о чудесном спасении семьи Александра III при крушении поезда 17 октября 1888 года. Спасение царской семьи вызвало в Ярославле, как и во всей стране, подъем религиозных и патриотических чувств. В память об этом событии ставились не только часовни, но и храмы, например Тихвинская церковь за Волгой в Тверицах. Обстоятельства возведения новой часовни были следующими. В октябре 1888 года на Ильинской площади состоялся торжественный молебен, после которого «торговцы всех торговых рядов города Ярославля, движимые чувством беспредельной и пламенной любви к помазаннику Божию, единогласно и единодушно постановили… на доброхотно собранный капитал соорудить святую икону, которую и поставить в часовне Мытного двора с тем, чтобы перед иконою теплилась неугасимая лампада и чтоб ежегодно в памятный для России день 17 октября в часовне этой совершалось благодарственное молебствие». Созданная для осуществления этого намерения комиссия осмотрела существовавшую на тот момент часовню и нашла, что она «по крайней ветхости своей, слишком малого размера, по неудовлетворительному наружному виду и внутренней отделке совершенно не благоприятствует нахождению в ней иконы, на совершение в ней молебствий. А потому, и принимая во внимание, что собранный капитал далеко превосходит сумму, потребную на приобретение иконы, предложила существующую старую часовню сломать и устроить на этом же месте новую». Составление проекта часовни комиссия поручила губернскому архитектору Николаю Ивановичу Поздееву, комитет по ее строительству возглавил городской голова Иван Николаевич Соболев. Большую часть расходов взял на себя, будучи тяжело больным, купец Константин Михайлович Огнянов. Церемония закладки производилась днем 17 октября 1889 года духовенством собора, с крестным ходом, в присутствии городских властей. Часовня представляет собой шатровый храм с одной апсидой, верхняя часть которой украшена декоративной главкой. Западное крыльцо часовни оканчивается шатровым крыльцом. Стиль архитектуры часовни напоминает невысокую шатровую колокольню, богато украшенную кирпичным декором, характерным для русской архитектуры конца XVII. Шатёр покрыт серой керамической плиткой, имитирующей древний лемех. Резной дубовый иконостас для часовни был выполнен по рисунку Н. И. Поздеева, иконы для него заказали палехскому мастеру Федору Галанову. Часовня была освящена в честь небесных патронов членов царской семьи, князя Александра Невского, Марии Магдалины, Николая Чудотворца, Георгия Победоносца, Архистратига Михаила, преподобной Ксении, княгини Ольги и пророка Осии, в обиходе ее называют часовней Александра Невского. В дальнейшем ежегодно 17 октября к часовне подходил крестный ход из Успенского собора с образом Николая Чудотворца из Николо-Бабаевского монастыря.
Когда точно часовню закрыли неизвестно. Есть данные, что в 1929 году в ней ещё проводились службы. Позже было разобрано крыльцо. В последующие годы в часовне находились магазин «Пчеловодство», мастерская химчистки и крашения. В конце 70-х годов, когда рядом начали строить трехэтажное здание ярославского обкома партии, часовню вообще собирались снести. Однако ярославским архитекторам и градозащитникам удалось отстоять памятник. В 1982—1984 годах была проведена реконструкция, в ходе которой крыльцо восстановлено в прежних формах. Недолго в часовне даже был устроен выставочный зал Ярославского художественного музея.
В июне — сентябре 2002 года ее интерьер был расписан бригадой мастеров школы «Ярославская икона» под руководством действительного члена Российской академии художеств Николая Александровича Мухина, а 6 декабря владыка Кирилл, двумя месяцами ранее назначенный епископом Ярославским и Ростовским, освятил её.
В настоящее время часовня относится к Кирилло-Афанасиевскому монастырю.
