Мценск стал городом юности поэта. Вспоминая ранние годы своей жизни А. А. Фет писал: «В те времена я о том не думал, да так и по сей день для меня осталось необъяснимым, почему Семен Николаевич Шеншин, так радушно принимавший меня в Москве на Никитской, покинув Москву, переселился во Мценск. Было бы понятно, если бы он переселился в свое прекрасное, благоустроенное имение Желябуху; но почему он избрал Мценск и притом не только для зимнего, но и летнего пребывания, объяснить не умею».
Он занимал лучший во всем городе двухэтажный дом с жестяными львами на воротах. Львы эти и по сей день разевают на проходящих свои пасти, выставляя красные жестяные языки.» На этом доме установлена мемориальная доска. Недалеко от этого здания, рядом с художественной школой, напротив дома со львами установлен памятный бюст Афанасию Фету. Складывается такое ощущение, что Фет смотрит на знакомый ему дом. Ныне там расположен военный комиссариат по городу Мценск и Мценскому району.