Походная (при полку) церковь учреждена в 1864 году. Церковь эта сопутствовала полку в Русско-Японскую войну 1904-1905 г.г.
С 1905 года полковая церковь помещается во 2-м этаже казарменного здания, находящегося недалеко от центра города, в местности, называемой «Гаек». Вмещает 200 душ. Помещение светлое. Высочайший дар церкви икона Нерукотворенного Спаса (благословение полку от Их Императорских Величеств пред походом в Манчжурию в 1904 году).
По штату при церкви положен: один священник.
Г.А. Цитович «Храмы армии и флота». Пятигорск, 1913
