Первоначальный деревянный клетский храм был посвящён Дмитрию Прилуцкому и ещё в XVII веке храм назывался Дмитрия Прилуцкого в Кобылине улице. Как считается, первый храм был возведён в 1503 году на месте сретения несохранившейся надгробной иконы Дмитрия Прилуцкого, которая возвращалась из победного похода Ивана III на татар. Известно, что в XVI веке, в районе церкви начиналась дорога на Кострому и Москву, где и могла произойти встреча. По другой точке зрения, в поход Ивана Грозного на Казань бралась житийная икона Дмитрия Прилуцкого из Спасского собора Прилуцкого монастыря. Около 1690 года на месте деревянного здания храма построен каменный храм, существующий и сейчас. Высказывалось также предположение, что именно к этому храму относится упоминание о постройке ярославскими мастерами храма Дмитрия Прилуцкого в Вологде в 1653 году, а не к храма Дмитрия Прилуцкого на Наволоке. Церковь была освящена в честь святых равноапостольных царей Константина и Елены, а придел нижнего храма в честь Дмитрия Прилуцкого. В память события, которое стало причиной основания храма, каждый год 3 июня служилась литургия в Кафедральном соборе и храме Константина и Елены, а затем совершался крестный ход из города в Спасо-Прилуцкий монастырь.
Вплоть до начала XX века храм находился на окраине города.
Храм был закрыт 24 февраля 1930 года, в нём размещались учреждения культуры и трикотажная фабрика. Интерьер храма был обезображен и разграблен, внутри находился склад хозяйственного магазина. В 1997 году храм был возвращён Русской православной церкви, было начато его восстановление. В 1998 году возобновились регулярные богослужения в нижней церкви, с 2008 года снова действует и верхняя. Возрождена традиция крестных ходов. 10 апреля 2008 года на колокольню подняты восемь новых колоколов весом от 10 до 430 кг, привезённых из Тутаева.
Шатровая колокольня, примыкающая к паперти с северо-западной стороны, современна основному зданию храма. Состоит из трёх ярусов в виде равных по диаметру восьмериков. Восьмерики колокольни доведены до земли «по заветам старины». Верхний восьмерик является открытым ярусом звона, образованным арками с килевидными завершениями и простенками, украшенными тройными полуколонками. Колокольню завершает лёгкий шатёр с окнами-слухами и маленькой главкой.