Во время двух своих посещений Таганрога в 1818 и 1825 годах император Александр Павлович останавливался в доме 1806 года постройки, который в этой связи стал считаться временным дворцом. Во время второго приезда в половине дома, занимаемой императрицей Елизаветой Алексеевной, была помещена походная церковь. После того как император скончался в этом доме 19 ноября 1825 года, императрица Елизавета осталась проживать тут. В комнате где последовала кончина императора по желанию императрицы была устроена войсковая походная церковь в честь Воздвижения Святого Креста.
В 1862 году эту домовую церковь приписали к Успенскому собору, здесь было дозволено совершать богослужения. При храме существовал хор, в котором пели три брата Чеховых, включая будущего писателя Антона Павловича. Службы проводились по большим праздникам и постами. Сюда ездили говеть городская аристократия во главе с градоначальником.
После гражданской войны дворец Александра I был передан под квартиры рабочим. При этом домовой храм был закрыт, а церковная утварь отдана в Художественный музей. Церковная утварь и обстановка бывшего дворца Александра I были отданы в музей. С 1964 здесь открылся детский противотуберкулезный санаторий «Березка». Здание дворца Александра I сохранилось.
