Поселения людей на прикремлёвской территории возникли здесь ещё в эпоху мезолита. Археологические раскопки свидетельствуют о крупных поселениях на территории современного Фефёлово Бора в Канищево, микрорайонов в Борках и Рыбацкой улицы. Славянские племена колонизировали эти места уже VI-VII веке. Ближайшее к будущей крепости крупное Борковское поселение, располагавшееся на Окском острове, вело активную торговлю с Византией, странами Востока и Запада. Вторым крупным укреплённым поселением было городище Борисов-Глебов. Позднее оно станет Переяславльской резиденцией архиереев, а затем Борисоглебской площадью. Большие скопления поселений в этом районе, а также наличие крупного торгового порта вызвало необходимость строительства укреплённого города, для защиты населения и прилегающих территорий. Этим городом и стал Переяславль-Рязанский.
Дата основания кремля Переяславля-Рязанского указана в Следованой псалтыри, хранящейся сегодня в музее-заповеднике, «В лета 1095 заложен бысть град Переяславль Рязаньской около церкви святого Николы Старого
— следованая псалтырь Ильинской церкви, 1570г., с.378».
В XI веке кремль Переяславля-Рязанского представлял собой укреплённую крепость, располагавшуюся в наиболее высокой, северо-западной части современного архитектурного комплекса, на месте существующей сегодня церкви Святого Духа, площадью в 2 гектара. Вокруг крепости располагались слободы и многочисленные неукреплённые поселения, в которых жили крестьяне, рыбаки и бедные ремесленники. Улицы города были вымощены деревом, дворы располагались вплотную друг к другу. Княжеский терем по всей видимости стоял на месте современной Духовской церкви. Местность вокруг города была занята обширными лесами, две естественные преграды, реки Трубеж и Лыбедь были судоходными. На холме располагались два озера, Быстрое и Карасева, откуда в случае осад брали питьевую воду. Во время половодья обе реки, а также протекающая по близости Ока разливались, превращая Кремлёвский холм в полноценный и неприступный остров.
Открытие в напластованиях Житного раскопа слоёв 2‑й половины XII века подтверждает гипотезу, основанную исключительно на присутствии керамики «курганного» типа, о том, что Переяславль-Рязанский возник на полтора века раньше его первого упоминания в летописи 1300 года. Первоначально Переяславль-Рязанский являлся одной из многих укреплённых крепостей-поселений Рязанского княжества. После уничтожения монголо-татарским войском Батыя столицы княжества, Рязани, в 1285 году архиепископ Василий Рязанский переносит в Переяславль епископскую кафедру, а затем, в середине XIV века сюда же переносится и столица Рязанского княжества. Начиная с XII века город растёт, постепенно занимая всю территорию Кремлёвского холма. Это потребовало существенного расширения оборонительных сооружений. Строятся новые деревянные стены и башни. Пологий южный склон создавал существенную опасность для обороны города, поэтому в середине XII века началось строительство оборонительного вала и рва перед ним. Вплоть до середины XVII века на нём располагались стены. Литовские летописи XIV века подчёркивают, что главный город княжества расположился в «прирождённом месте оборонном», а его укрепления «производят впечатление столичного замка». К XV веку рядом с городом строится укреплённый городской острог. Тогда же начинается каменное строительство. Первым сооружением являлся Успенский собор, дошедший до наших дней в перестроенном виде под именем Христорождественского. Затем была построена каменная Глебовская башня и Архангельский собор
Кремль окружает цепь оборонительный ближних и дальных форпостов: Борисоглебская крепость, Троицкий, Солотчинский, Пощуповский и Богоявленский монастыри. К этому времени кремль, как и сам Переяславль становится начальным пунктом большой засечной черты Московского княжества.
В XVIII веке в результате расширения Российской империи границы страны были сильно отодвинуты от Рязанского кремля и засечной черты. Военное строительство в Переяславле постепенно сошло на нет, уступая расцвету гражданской архитектуры. Деревянные стены и башни кремля в отсутствие должного ухода пришли в ветхость. В 1778 году в результате административно-территориальных реформ Екатерины II Переяславль-Рязанский был переименован в Рязань и в 1796 году стал центром Рязанской губернии. Одновременно с этим город начинали перестраивать по регулярному плану. Обветшавшие стены и башни кремля были снесены, как и множество других строений. Административная, светская, торговая и культурная жизнь города сосредоточилась в новых центрах. Однако реконструкция кремля на этом не прекратилась. В 1789 году началось строительство Соборной колокольни Успенского собора, в это же время реконструировался и перестраивался, приобретая современные черты, Христорождественский собор. Вплоть до конца XIX века происходили многочисленные перестройки Архиерейского дворца. Речной порт на Трубеже продолжал оставаться основным портовым сооружением города. На Спасском Яру была построена каменная церковь. 15 июня 1884 года решением Губернской учёной архивной комиссии был создан Рязанский исторический музей. В 1895 году на Ильинской площади рядом с кремлём в рамках празднования 800-летия Рязани был устроен Соборный бульвар и возведена Триумфальная арка.
Уже в 1918 году решением губернского отдела народного образования все государственные и частные городские музеи, личные коллекции и епархиальное древлехранилище были объединены в единый губернский историко-художественный музей. Главным зданием музея в 1922 году становятся трёхэтажные Архиерейские палаты Рязанского кремля. Первые реставрационные обследования начали проводится в кремле ещё в 20-30-х годах. В это время активно готовились проекты реставрации и музеефикации архитектурного комплекса, а также территорий, находящихся за пределами города: Солотчинского монастыря и Старой Рязани. В это время в музее работают такие видные специалисты, как археологи В. А. Городцов и А. А. Мансуров, искусствовед Г. К. Вагнер, этнографы Н. И. Лебедева и М. Д. Малинина. Однако дальнейшим реставрационным работам помешала Великая Отечественная война.
Начиная с первых дней войны, и почти до самого её конца на Кремлёвском валу располагалась одна из огневых точек противовоздушной обороны города, а у его подножья, проходят занятия по артиллерийской подготовке. Немецкие бомбардировки не задели кремль, авиаудары приходились по железнодорожному вокзалу и центральной части города. С начала 1950-х годов по проекту главного архитектора музея-заповедника И. В. Ильенко начинается прерванная войной масштабная научная реставрация Кремлёвского комплекса. Одной из главных проблем, стоящих перед реставраторами было состояние фундамента Успенского собора, который, как и его предшественник существенно наклонился в сторону, а также состояние Соборной колокольни, которая находилась на опасном расстоянии от края холма. Для реставрации этих объектов были приглашены специалисты метростроя. В это же время начинается благоустройство кремлёвской территории, появляется Трубежная набережная, зелёные аллеи и площади, подсветка зданий, разбивается Соборный парк. С 1964 года в Успенском соборе начал работу городской планетарий и передвижные музейные выставки. Множество зданий передаётся административным учреждением, в Христорождественском соборе и церкви Богоявления появляется государственный областной архив, Духовскую церковь занимает музейная библиотека, Ильинский храм перестраивается под научный лекторий. В 1968 году приказом Министерства культуры СССР Рязанский кремль становится историко-архитектурным музеем-заповедником с особым статусом охраны.
