В конце XIX века и начале XX века центральная городская площадь называлась Соборной, так как на ней располагался Спасо-Вознесенский кафедральный собор. В 1925 году на месте снесённого собора был разбит сад им. В.И. Ленина. В соборный комплекс входила часовня, возведённая в честь счастливого избавления императора Александра II от покушения революционера-террориста Каракозова в апреле 1866 года. Часовня сохранилась до наших дней, в конце 1990-х годов была отреставрирована.
