В 1731 году Российская императрица Анна Иоанновна издала указ об укреплении восточных границ государства. Началось проектирование новой границы — Новозакамской оборонительной линии, строительство крепостей. В число таких поселений вошла и нынешняя Калиновка, в то время село называлось Кобельма, в нем жилы новокрещенные калмыки. В 1769 году в поселении был воздвигнут деревянный храм, строился он на казенные деньги. В 1885 году деревянная церковь сгорела и архиепископ Самарский Серафим Протопопов повелел строить каменный храм, этот храм строился уже на пожертвования прихожан. 1 сентября 1902 года церковь была освящена в честь Иконы Божией Матери Казанская преосвященным Гурием.
В 1930-х годах церковь закрыли. С 1936 по 1988 храм использовался под зернохранилище. В 1991 году по просьбе инициативной группы прихожан возобновлена церковная жизнь и начат ремонт храма. Ремонт продолжается до сих пор.