На месте современного памятника Учителю, установленному в 1974 году, в XIX веке стоял тюремный замок. На его территории располагалась церковь равноапостольного князя Владимира. Небольшая каменная церковь построена в 1873 году у ограды территории тюремного замка. Пристроенный к одному из тюремных корпусов восьмигранный объём с восьмискатной крышей без апсиды и колокольни имел луковичную главку на гранёном постаменте. Здания тюремного замка и церкви разрушены в середине ХХ века.