Исторический храм на пещерах был освящен в 1903 году в честь иконы, прославившейся в 1888 году в Санкт-Петербурге. Молния, ударившая в часовню у стеклянного завода, обожгла внутреннее пространство здания, но образ Божией Матери оказался не затронут огнем. Из разбившейся кружки с пожертвованиями вылетели монеты, которые и прилепились к иконе. В скором времени страждущие люди стали получать исцеления от болезней. Список с этой иконы в 1897 году заказал игумен Михаил – настоятель Бузулукского монастыря. Образ встретили при большом стечении народа, и, вскоре, он также прославился чудотворениями, именуется эта икона образом Божией Матери «Всех скорбящих Радости» с грошиками. Храм во имя иконы Божией Матери был устроен на пещерах, которые выкопали в 1820-е годы.
После официального открытия монастыря в пещерах, представляющих из себя обложенные кирпичом подземные коридоры и земляные келии, подвизались старцы. На встречу с одним из них специально приезжал из своего бузулукского имения Лев Толстой. Факт посещения пещер отображен в переписке великого писателя с супругой и в воспоминаниях его детей. После закрытия монастыря храм был разрушен, а в более позднее время пещеры были, предположительно взорваны, на что указывает характер разрушений. Возрождение традиций монастыря в наши годы происходит на базе прихода Спасо-Преображения г. Бузулука, клир которого состоит исключительно из монашествующих. Под руководством благочинного Леонида Антипова, ныне правящего архиерея Бузулукской епархии, Преосвященного Алексия и игумена Виталия Климова в конце 1990-х годов начались работы по расчистке пещер. В 2001 году был заложен новый храм, строительство которого завершилось в 2007 году. Освящение храма иконы Божией Матери «Всех скорбящих Радости» состоялось 5 августа 2012 года. Спасо-Преображенский храм восстановили у стен старинного монастыря, а ныне – женской колонии. Сегодня в нем проводятся еженедельные богослужения.
