Кладбищенская каменная церковь во имя Иоанна Милостивого была воздвигнута в 1830-х годах, благодаря усердием доброхотов и попечением вечной памяти достойного священника. Постройка отличалась красивой архитектурой и приличной отделкой внутри.
Ранее, на новоотведенном в полутора верстах от города кладбище, находилась деревянная напольная, кладбищенская, церковь, которая со временем пришла в ветхость. Эта церковь была пожертвована владелицей села Чуфарово, Анной Гавриловной Нормацкой, так как на постройку кладбищенского храма у сергачан не было средств.