В 1902 году на средства вдовы сотника помещицы Софьи Авиловой и пожертвования Лозовчан на Авиловской стороне был возведен каменный храм в честь Четырех Святителей Московских, митрополитов Петра, Алексея, Ионы и Филиппа.
С наступлением советской власти в городе началось закрытие церквей. К концу 1930-х годов не осталось ни одного действующего православного храма, колокола были сброшены, здания разрушены, утварь и иконы реквизированы, вывезены и безвозвратно утеряны. Единственное, что осталось от храмов Лозовой — это чугунная плита, которая была прикреплена к одной из стен церкви Четырех Святителей. Плиту подобрала и долгие годы сберегала как духовную реликвию простая православная женщина. В середине 1980-х годов дочь этой женщины передала святыню в городской исторический музей, где она находится и поныне.
