Церковь была построена по образцовому проекту военных храмов, утверждённому Строительной комиссией в 1901 г. (арх. Ф.М. Вержбицкий). Всего в Российской Империи к 1917 г. было выстроено не менее 69 таких церквей.
Данный храм для расквартированного в Александрополе 80-го пехотного Кабардинского полка был освящён 6 Января 1910 г. во имя Богоявления Господня. В 1910 г. полк был передислоцирован в Карс, а церковь отошла к прибывшему на данное место 153-му пехотному Бакинскому полку. Полковой праздник этого полка приходился на день памяти свт. Арсения, архиепископа Сербского (в этот день была одержана победа в 1877 г. турецкого форта Азизно), однако престол полковой каменной церкви переосвящать не стали.
С 3.06.1910 г. полковым священником являлся Феодосий Агафонович Снежевский.
Церковь находилась за городом, на т.н. Казачьем посту. Рядом с храмом, с 1879 г. стоял памятник в честь погибших во время Русско-турецкой войны 1877-1878 годов офицеров и нижних чинов полка.
В годы советской власти церковь была закрыта и обезглавлена. К концу 2000-х годов здание находилось в заброшенном аварийном состоянии.
В 2009 г. в храме были начатыработы по его расчистке и стали совершаться регулярные молебны. В 2010 г. было объявлено о начале работ по восстановлению храма с целью создания на его базе Российского духовно-культурного центра. В настоящее время храм именуется во имя свт. Арсения, архиепископа Сербского, что объясняется отсутствием у прихода точной архивной информации.
Источники: РГИА ф. 806, оп. 8, д. 290 (1910 г.); Цитовичъ Г.А. Храмы Армiи и Флота, 1913, сс. 419-420
