К рядом стоящей ремесленной школе со стороны улицы Дворянской пристроили двухэтажное каменное здание, сооруженное по проекту губернского инженера Колодко, с домовой церковью во имя Николая Чудотворца, освященной 9 мая 1895 года. Эта церковь была одной из самых лучших домовых церквей в городе. Устроенная на средства В. Я. Швецовой, она помещалась на втором этаже, куда с ул. Дворянской с парадного крыльца вела чугунная лестница, предположительно изготовленная на заводе И. М. Лобанова. Есть также сведения, что это литье выполнялось на уральских заводах. Паркетный пол в храме и престол из кипариса были сделаны самими воспитанниками ремесленной школы.
1 января 1892 года в здании ремесленной школы открылась картинная галерея, завещанная Пензе ее бывшим губернатором Н. Д. Селиверстовым, которая находилась здесь до 1897 года, до момента перевода ее в здание художественного училища*.
