В 1295-м году некий Рыльский охотник на берегу Тускари у корней большого вяза нашёл икону Божьей Матери, лежавшую ликом вниз. Как только охотник поднял икону, он увидел, что на месте, где она лежала тут же потекла вода источника. Здесь и выстроили часовню.
Икона хранилась в часовне и охраняла её. Крымские татары не раз пытались поджечь часовню, но та не загоралась. Узнав у священника причину своих неудач, татары вынесли икону и разрубили её на две части, после чего часовня загорелась. Спустя много лет тот священник, вернувшись из татарского плена, нашёл половинки иконы. Когда он составил их вместе, икона срослась так крепко, что место соединения на ней едва различимо.
В 1597-м году царь Фёдор Иванович, сын Ивана IV Грозного привозил икону в Москву и, отправив обратно, повелел заложить мужской монастырь. Так началась Коренная пустынь. В 1611-м году её разрушили Крымские татары, а в XVIII-м веке обитель потрясли разорительные реформы Петра I и Екатерины II. Но монастырь всё же рос и богател, умножая братию. Над источником и пнём знаменитого вяза стояла обветшалая деревянная церковь Иконы Богоматери «Живой Источник», которую перестроил в камне фельдмаршал Б.П.Шереметев, возвращавшийся в Москву после Полтавской победы.
В XIX-м веке это был один из самых больших и известных монастырей в России. Его развитию способствовала также собственная ярмарка, которая была по размаху второй в России, после Нижегородской.
Советская власть обошлась с монастырём жёстче, чем все напасти до этого. Собор был взорван, место паломничества и Святой источник оцеплены нарядами милиции. В 1989-м году остатки монастыря были возвращены Церкви, и началось восстановление обители. К сегодняшнему дню восстановлено очень много.