Походная (при полку) церковь учреждена в 1864 году.
С 1910 году церковь помещается в небольшой пристройке к манежу, расположенному в г. Ковно на конном базаре, по Пушкинской улице.
Церковь полка помещалась сначала в частном доме, а в 1882 и 83 г.г. старанием начальника 28-й пехотной дивизии генерал-лейтенанта Квитницкого сделана была пристройка к большому деревянному манежу. С 1898 года, с выходом полка в г. Мариамполь, Сувалкской губернии, полковой храм был передан Ковенскому крепостному собору. Некоторое время в нем существовала еще братская школа, а потом он был закрыт до 1910 года. С переходом полка в мае 1910 года вновь на постоянные квартиры в г. Ковно, церковь возобновлена полком на средства, отпущенные из капитулов орденов в сумме 4.500 руб.
В настоящее время церковь вмещает в себе до 150 человек; отделяется от манежа створчатыми, на шарнирах, дверьми до 6 саж. ширины и 2-х саж. высоты. Вся церковь отделана под мрамор (композиция) и освещается электричеством. Св. престол — мраморный.
Среди икон полкового храма обращает на себя внимание образ Св. Николая Чудотворца, чудного старинного письма; по преданию, относится к XIII веку и принесен из Болгарии.
По штату при церкви положен: один священник.
Г.А. Цитович «Храмы армии и флота». Пятигорск, 1913
