Кладбищенскую церковь Всех Святых, предназначенную для отпевания монахов и паломников, выстроили в 1832-1834 годах в классическом стиле. Церковь с кладбищем была окружена арочной каменной оградой.
Уникальность церкви в том, что ее купол единственное место, где сохранилась живопись монастырских времен. Роспись выполнена в классической манере и выдержана в монохромной серо-голубой гамме.
Первоначальные исследования показали, что роспись принадлежит арзамасской школе академика А. В. Ступина. Специалисты не знают аналогов этой росписи по сюжету и композиции ни в России, ни за ее пределами. Здесь изображен один из эпизодов Апокалипсиса перед сидящим на престоле Вседержителем Агнец открывает книгу за семью печатями.
В советское время здание храма использовалось под ресторан, затем под хозяйственный магазин. В 1992 году храм был возвращен православной общине.
23 февраля 1993 года храм был вновь освящен Митрополитом Нижегородским и Арзамасским Николаем Кутеповым.
6 февраля 2013 года, в день памяти святой блаженной Ксении Петербургской, прихожане отметили двадцатилетие со дня освящения первого храма в Сарове во имя Всех Святых.
