До основания храма на этом месте было кладбище. Первые захоронения на нем произошли в 1878 году во время сильной эпидемии холеры. Как пишет священник А. Орлов, от первого захоронения до начала основания храма прошел 21 год. В 1899 году по благословению архиепископа Ярославского и Ростовского Ионафана была совершена закладка храма. Небезынтересен тот факт, что на эту церемонию был приглашен протоиерей Иоанн Кронштадский. Строительство здания шло быстрыми темпами, и вскоре уже была возведена средняя часть храма и алтарь, однако после отъезда главного инициатора строительства церковного старосты И.Н. Величко дело остановилось. Возобновление строительства состоялось лишь в апреле 1913 года. 30 сентября были освящены и подняты кресты. После праздника Рождества 1914 года все основные работы по внутренней отделке храма были завершены. Орлов А. Исторический очерк кладбищенского храма Всех Святых за рекой Коровкой г. Рыбинска Ярославской епархии (с основания храма до освящения). Ярославль, 1914