Июня 28-го дня 1888 года соборным протоиереем Писаревским совместно с градским духовенством освящена каменная часовня, устроенная гражданами в 1884 году близ соборной церкви в память мученической кончины Государя Императора Александра II.
По другой версии, эта часовня была освящена, как и часовня Александра Невского в Ярославле, в память о чудесном спасении семьи Александра III при крушении поезда 17 октября 1888 года и освящена в честь небесного покровителя царя Александра Невского.