Рядом с городской управой находилась усадьба купцов Зворыкиных. В Муроме фамилия Зворыкиных была одной из самых распространенных. Чтобы отличать одних Зворыкиных от других, семейным кланам давали прозвища. Так, например, были Зворыкины-Подгорные, Зворыкины-Якори, Зворыкины-Ткачи, Зворыкины-Железные. Зворыкины, о которых пойдет речь, назывались Козоморовы. Откуда пошло такое прозвище неизвестно.
Усадьба состояла из большого каменного жилого дома, двух флигелей, конюшни, каменной палатки и разных деревянных хозяйственных строений. Большой двор был замкнут со всех четырех сторон. По склону оврага простирался огромный фруктовый сад. Дом был построен во второй половине 1840-х годов Кузьмой Дмитриевичем Зворыкиным, который являлся прадедом изобретателя телевидения Владимира Зворыкина. Сохранились документы, свидетельствующие о том, как постепенно в начале 1840-х годов Кузьма Дмитриевич скупал земли на краю Николо-Зарядского оврага, где позже появилось городское поместье Зворыкиных.
Главное жилое здание выполнено в классическом стиле и выходит парадным фасадом на торговую площадь. Изобретатель Владимир Зворыкин с любовью и нежностью вспоминает о своем детстве, проведенном в этом старом доме, «Дом, в котором я родился, принадлежал нашей семье в течение нескольких поколений. Это было большое каменное трехэтажное здание слишком большое даже для нашей многочисленной семьи. Практически мы занимали только второй этаж, остальная часть дома была пуста, и у нас детей было много свободного места для игр в прятки».
В 1918 году зворыкинский особняк был передан в распоряжение городского музея, и с тех пор в нем располагались исторические и художественные экспозиции. С 2010 года здание закрыто на реконструкцию.