Кирпичное здание из красного кирпича выглядит очень изысканно. В архивах о его хозяине пишут, что он был владельцем складов лесных материалов. Не купец вовсе, а отставной военный, открывший в себе жилку предпринимательства. Льготы, которые в дореволюционной России имели отставные военнослужащие, позволили оборотистому Хованову «раскрутиться». Строительство дома в 25 комнат началось в 1908 году. Но пожить ему в нем не довелось. Упал со строительных лесов и насмерть расшибся.
После Революции дом был национализирован. В нем поэтапно располагалось ВЧК, ГПУ, НКВД, МГБ, а в настоящее время — управление ФСБ.