Устроителем пещерного храма во имя святителя и чудотворца Николая в Казанской Алексиево-Сергиевской пустыни является старец Серафим (в миру Сила Жулин). По благославлению Саратовского епископа Гермогена (Долганова) в начале ХХ века он вырыл в горе пещеры для подземного храма и монашеских келий.
В 1935 году полуобвалившиеся пещеры были обследованы спелеологами, составившими карту-схему подземных ходов. В начале 1990-х годов пещеры были засыпаны.
В 2005-2006 годах была проведена расчистка пещер. В ходе этих работ над входом в пещеры была построена часовня во имя Николая Чудотворца. Это небольшое, круглое в плане, кирпичное сооружение под шатровой крышей, увенчанной главкой с крестом, воодружение которой на часовню состоялось 4 ноября 2005 года. В часовне установлены иконы святителя и чудотворца Николая и устроена винтовая лестница, ведущая вниз в пещеры.
В самих пещерах устроен Никольский храм. 20 июля 2006 года в братскую пещерную усыпальницу захоронили останки, найденные во время подземных работ. А в январе 2007 года в пещеры были перенесены с городского кладбища останки основателя обители Андрея Грузинцева.
Дворжанский А.И. История Пензенской епархии Кн.2 «Храмы»