Храм Казанской иконы Божией Матери на территории монастыря строился с 1874 года по 1885год под руководством настоятельницы Арсении. Проектировал храм профессор Санкт-Петербургской академии художеств академик И.И.Горностаев. Матушка Арсения была дочерью предводителя Войска Донского, знаменитого генерала Михаила Васильевича Себрякова, который тоже жертвовал деньги на храм. Когда храм был построен и освящен, Арсения вместе с тремя сёстрами-монашками стала рыть пещеры под ним. По замыслу матушки лабиринт отобразил историю последних дней Христа: Страстную неделю, предательство Иуды и казнь Иисуса. Пещеры идут по двум путям: один символизирует путь Христа, а другой — Богоматери. Образуя круг, они ведут к Голгофе. В 1905 году Арсения преставилась на 72 году жизни. Похоронили её в склепе нижней церкви монастыря.
С приходом советской власти монастырь был закрыт, храм разграблен , гроб игуменьи Арсении был вскрыт, тело ее оказалось нетленным. Наутро гроб с телом исчез и не найден до сих пор. В настоящее время Собор иконы Божией Матери Казанская в Спасо-Преображенском Усть-Медведицком монастыре — это верхний храм Казанской иконы Божьей Матери и нижний храм пр.Арсения Великого. Подземная церковь, пещера Матушки Арсении, где находится Святой камень. Идут восстановительные работы.