Первоначально Леонтьевский приход в Ярославле располагался в Земляном городе, недалеко от Кирилло-Афанасьевского монастыря. В 1635 г. на месте старого деревянного храма сооружается новый каменный во имя святителя Леонтия, епископа и чудотворца Ростовского, с приделом Девяти Мучеников Кизических и колокольней над входом. Крупным вкладчиком нового храма был ростовский купец Василий Федотов Мальгин. В 1688 г. прихожане строят на месте сгоревшей деревянной вторую каменную церковь — пятиглавую церковь Рождества Христова, а также каменное здание богадельни. Среди храмоздателей выделяется имя прихожанина Леонтьевской церкви, известного своей благотворительностью ярославского купца Ивана Ивановича Мякушкина. В начале XVIII века приход состоял из 61 двора, а число прихожан вместе с проживающими в богадельне составило около 200 человек.
В 1778 году императрицей Екатериной II утверждается генеральный план новой регулярной застройки Ярославля, в значительной мере разрушающий старую, хаотичную и неправильную, стихийно складывавшуюся планировку центральной части города. В соответствии с новым регулярным планом участок, занимаемый храмами Леонтьевского прихода, отводился под строительство новых казенных каменных зданий, поэтому в 1783 г. Леонтьевский приход в Земляном городе решено было упразднить, а церковные здания разобрать и построить вновь на только что учрежденном городском кладбище по дороге на Углич. Здание состояло из теплой трапезной с двумя боковыми помещениями для приделов, главного храма, алтаря и колокольни высотой 8 сажен. Освящение новопостроенного храма состоялось 23 мая 1791 года, в день обретения мощей святителя Леонтия Ростовского. Храм был бесприходным.
Стенная живопись выполнена, как гласила храмовая надпись, в 1806—1809 гг. «подрядчиком Семеном Степановым Завязошниковым и при нем бывшими подмастерьями Харлампием Петровым Дряниным и Василием Петровым». Система росписи состояла из 107 сюжетов в трапезе, алтаре и приделах. В 1834 и 1888 гг. фрески поновлялись. Иконостас выполнен в 30-х годах XIX века резчиком посада Большие Соли (ныне пос. Некрасовское) Владимиром Трубниковым.
В 1894 г. при Леонтьевской церкви была открыта школа грамоты для детей из ближайших к кладбищу деревень и тогдашних западных окраин города. Кроме того, при церкви существовала общественная богадельня, двухэтажное здание которой было построено на добровольные пожертвования в 1846—1847 гг. и сохранилось до наших дней.
В 1931 г. Леонтьевская церковь была передана в пользование религиозной общине обновленческой ориентации. Однако ввиду ее немногочисленности (около 30 человек) община обновленцев была не в состоянии нести все необходимые расходы по содержанию церковного здания, и 7 декабря 1940 г. исполком Ярославского Горсовета упразднил Леонтьевскую религиозную общину. В советское время интерьер Леонтьевской церкви был искажен (устроен второй этаж), практически утрачена фресковая живопись, за исключением небольших фрагментов в алтарной части.
В 1991 г. Леонтьевский кладбищенский храм возвращен Русской Православной Церкви, в нем произведен ремонт, возобновились захоронения на Леонтьевском кладбище.
