Разорившиеся потомки купца Холодилова в начале девятнадцатого века продали дом и прилегающий комплекс местному отделению полиции и уездной тюрьме. Именно во времена полиции в ограде комплекса и разместилась тюремная церковь Всех скорбящих Радость. В то время в тюрьмах всегда присутствовали церкви для арестантов.
Построена Скорбященская церковь была в 1854-1857 годах в заимствованном древнерусском стиле. В результате получилось довольно симпатичное здание, особенный интерес в котором представляли окна, оформленные кокошниками, и красивая церковная главка. У восточной стены храма была примитивная звонница, колокольне в тюремном замке быть и не полагалось.
В советские годы в разгромленном здании старой полиции разместился новый орган охраны правопорядка, сиречь милиция. Новой большевистской власти церковь рядом с народной милицией никак не нравилась, поэтому купол церкви и все декоративные элементы, в том числе и кокошники, были ликвидированы. Без них и с замазанными наглухо окнами здание, которое ныне используется местным отделением ГАИ-ГИБДД, совсем потеряло привлекательность.
