На улице Преображенской напротив Преображенского храма располагается старинное здание необычной архитектуры, которое является украшением Белгорода. Это бывшее здание мужской гимназии, построенное в 1879 году специально для гимназии, которая была открыта в 1874 году и располагалась в доме купца Селиванова.
Новое здание было самое красивое на тот период времени, сочетающее в себе различные архитектурные стили. Гимназии было присвоено имя герцога Эдинбургского. В этом здании размешалась Евгеньевская церковь, которая была открыта по просьбе жены капитана Мустяц. Она обратилась к директору гимназии с просьбой разрешить ей сделать пожертвование на пристройку к зданию мужской гимназии церкви в память о своей покойной дочери Евгении, умершей в раннем возрасте. Директор гимназии поддержал ее предложение и обратился в городскую управу разрешить открыть при гимназии церковь. Управа дали свое согласие и в 1885 г. к зданию мужской гимназии была пристроена каменная домовая церковь во имя святой Евгении. Закрыта вскоре после 1917-ом.
На начало ХХ века там обучалось около 400 человек. За годы существования мужской гимназии в ней учились воспитанники, которые внесли огромный вклад в развитие науки, культуры, искусства края и нашей страны. Эти люди – гордость белгородцев. Из стен гимназии вышли: русские учёные, электрик, действительный член Академии наук Михаил Полиектович Костенко и его брат кораблестроитель, доктор технических наук Владимир Полиектович Костенко, военачальник и государственный деятель Валентин Александрович Кангелари. В стенах этого учебного заведения обучался авиатор, кинематографист Николай Дмитриевич Анощенко, учёный, доктор медицинских наук Александр Фёдорович Никитин и другие.
В 1917 году в этом здании под руководством И.Г. Озембловского состоялось организационное собрание большевиков, на котором было решено создать самостоятельную большевистскую организацию РСДРП (б). В 1921 году в здании бывшей мужской гимназии размещались красноармейцы пулемётной команды 76 полка.
В годы Великой Отечественной войны в стенах бывшей мужской гимназии размещался военный госпиталь. С 1954 по 1957 годы здание принадлежало Белгородскому обкому КПСС. Затем освободившееся здание было передано Белгородскому педагогическому институту. После открытия нового здания педагогического института на улице Студенческой здесь размещался филиал Всесоюзного заочного политехнического института, преобразованного впоследствии в Белгородский технологический институт строительных материалов, а позднее — подразделения Всесоюзного заочного финансово-экономического института.
После капитального ремонта здание было передано Белгородскому государственному университету, 11 января 2003 года состоялось торжественное открытие реконструированного здания, в нём разместился социально-теологический факультет.
