В этом здании размещалось губернское правление и казённая палата, в которой в 1865-1866 годах служил писатель-сатирик М.Е. Салтыков-Щедрин. По его инициативе при казённой палате были созданы общественная библиотека и касса взаимопомощи для сотрудников.
В 1860-х годах казённая палата занимала почти всю северную половину здания. Общее присутствие и кабинет управляющего, где работал М.Е. Салтыков-Щедрин, находились в комнатах второго этажа, выходящих окнами на современную улицу Белинского (2-7 окна с севера на юг). Главный западный фасад сохранился почти в первоначальном виде. Его облик оживляет чередование разнохарактерно обрамленных окон и рустовка первого этажа. Монотонность скрадывается слегка выступающими ризалитами — центральным в пять окон и боковыми — соответствующими крайним осям здания. Над подъездами — кованые зонты конца XIX в. Северо-восточный угол здания в конце XIX в. укреплен двумя контрфорсами. В 1957 году на здании присутственных мест установлена мемориальная доска с бронзовым барельефом М.Е. Салтыкова-Щедрина. Ее текст гласит: «В этом доме с января 1865 года по декабрь 1866 года жил и работал великий русский писатель-сатирик М.Е. Салтыков-Щедрин».