По преданию, имеющему исторические основания, деревянная церковь во имя святого апостола и евангелиста Иоанна Богослова некогда была построена в 1552 году на месте стана войска царя Ивана Грозного, совершавшего свой третий Казанский поход. В 1678 году на месте деревянной церкви был выстроен новый каменный храм. Эта была третья каменная церковь в Арзамасском уезде, после Спасо-Преображенского собора Спасского монастыря 1638 года и храма в честь Иоанна Богослова над Спасским болотом. Храм объединял прихожан двух деревень, Ивановки и Березовки.
В первые годы советской власти в церкви продолжалась литургическая жизнь. В феврале 1935 года в соответствии с постановлением президиума Горьковского крайисполкома в селе был прекращен колокольный звон. Летом того же года под колхозный склад был отнят теплый придел храма, а 28 апреля 1941 года собрание колхозников приняло решение о закрытии церкви. По решению районных властей колокола были сданы в металлолом, в здании храма разместили зерносклад и колхозную контору.
С середины 70-х годов, после присоединения Ивановки к Арзамасу, церковь пустовала.
В 2003 году храм был возвращен Нижегородской епархии. В том же году в нем возобновились богослужения.