Мало где в небольших городках сохранилось столько старинных зданий, сколько в Рыльске. Кроме ряда домов, выстроенных в XVII – XVIII вв., здесь можно полюбоваться красотой величественных православных храмов: Покровским, Успенским и Вознесенской церковью. Кроме того, на окраине расположен монастырь, заложенный в XVIII в. с комплексом церквей того же времени. Пожалуй, наиболее интересна история Покровского собора.
Заложен храм был человеком, чье имя известно всем, интересующимся русской историей: Григорий Шелихов – уроженец курской земли, открывший со своей экспедицией Русскую Америку (Аляску), на собственные деньги возвел прекрасный собор в родном городе (средства на строительство были получены им в результате предпринимательской деятельности Российско-Американской компании).
Поднимающиеся над невысоким городком своими куполами на стройных, но мощных главах – кажется, без них Рыльск было бы невозможно узнать. Высокое сооружение видно с расстояния в 10 км из-за пределов города. Покровская церковь имеет форму круга, несколько срезанного с трех сторон выдвинутыми за границы внешней окружности прямыми стенами со стоящими перед ними колоннами, которые образуют портики, причем колоннада с восточной, алтарной, стороны прислонена к стене. С западной стороны круглого храма возвышается колокольня, стоящая на четырех массивных пилонах, образующих три входа в здание по двум крестообразно пересекающимся коридорам. Паперть с юга пристроена позднее.
При строительстве здания традиционно использовался кирпич. Отдавая дань тенденциям эпохи, архитектор создал строение в стиле классицизма. Впрочем, все это можно было увидеть не однажды в России, но вот колокольня храма поражает – составленная из множества ярусов, она поднимается в небо на высоту в 50 метров. В основании ее – четыре пилона (большие столбы, служащие опорой сооружению), образующих входы в храм.
Покровский собор очень красив. Особенно ярко проявляется его величественность на закате, когда лучи садящегося солнца, разрезаемые колокольней, словно создают над ней нимб. Во времена советской власти храм не пришел в упадок, сегодня здесь ведутся службы.