В 2001 году 11 апреля был открыт приход в д. Будановка, а 28 апреля 2002 года по благословению митрополита Курского и Рыльского Иувеналия был заложен первый камень под строительство храма «Всех святых, в земле Российской просиявших».
Указом по епархии от 20 ноября 2001 года настоятелем храма был назначен игумен Афанасий. Под его руководством было начато строительство храма. В 2004 году был возведен барабан и купол. 20 октября 2004 года поднят крест, освященный 27 сентября 2004 года на праздник «Воздвижение Креста Господня».
На праздник «Сретение Господне» 2006 года произошло радостное событие в жизни жителей Будановки: воздух поднебесья огласился звоном колоколов приходского храма. В 2006 году возле барабана была сделана защитная решётка, а вокруг церкви установлена каменная ограда. На пожертвования прихожан приобретены колокола 1500 и 300 кг. Внутри храма сделана роспись купола с изображением образа «Преображение Господне».
В 2008 году начато возведение колокольни, и в этом же году прихожане пожертвовали ещё один колокол 5700 кг. К концу года все колокола подняты наверх звонницы.
При храме открыта воскресная школа 1-го года обучения для детей 6-10 лет.