Свое первоначальное название, основанная во второй половине восемнадцатого века, помещичья православная русская деревня получила по имени барина – Андреевка. Одновременно называлась и Елховской по названию ключа, источника Елховый, пользующегося народной славой в округе. Деревня входила в Твердиловскую волость, Покровский церковный приход. В 1847 году селянами была построена деревянная церковь с колокольней во имя Архангела Михаила, и вскоре после отмены крепостного права 1861 года с помощью земства в деревне было построено каменное здание православной школы, деревня приобрела статус села. Просуществовала церковь менее ста лет, лишь до 1930 года, затем была закрыта, сброшены купола и разрушена колокольня, здание использовалось под складские помещения для сельскохозяйственной продукции и технического инвентаря, в конечном итоге была разобрана на строительный материал.
В 2000 году на месте утраченной церкви во имя Архангела Михаила в селе Елховка был установлен памятный поклонный крест. Православный приход храма Архангела Михаила вновь в селе Елховка Бузулукского района образован 18 ноября 2015 года. На сходе селян однозначно принято решение о проектировании и строительстве нового храма в селе Елховка.
