На месте нынешней церкви Ильи Пророка в XVI–XVII веках был мужской Ильинский монастырь. Год его основания не известен. Известна версия, что монастырь возвели на языческом капище Перуна.
Церковь пророка Ильи располагается на небольшой возвышенности. Название «в Каменьи» появилось при следующих обстоятельствах. На месте церкви при Иване Грозном складировался известковый камень, из которого царь строил каменную стену Вологодского кремля. Как писал историк И.К. Степановский, каменный запас «в большом количестве покрывал пространство от реки до самой Владимирской церкви, по направлению предположенной постройки, в разных местах. Царские строительные запасы складировались в этом районе города до конца XVIII – начала XIX веков. Оставленный без употребления в дело камень мало-помалу от собственной тяжести уходил в землю и только по местам виднеется из нее».
Холодный Ильинский храм вместе с теплым храмом Варлаама Хутынского составлял один Ильинский приход. В конце XIX века и начале ХХ века. Ильинский приход был небольшой, не более ста человек. В начале 1920-х годов храм перешел к обновленцам. В 1924 году община Ильинской церкви отстранила обновленческого священника Александра Сахарова и единогласно выбрала своим настоятелем протоиерея Алексея Углицкого, служившего до этого в Успенском женском монастыре и поддерживающего Патриарха. 24 февраля 1930 года городские власти Вологды приняли решение закрыть для богослужения Ильинскую церковь. Древние иконы храма были переданы в фонды музея. В 1930-е годы в Ильинском храме располагался архив, в 1950–70-е годы, книжный склад.
Постановлением Совета Министров РСФСР ансамбль церквей бывшего Ильинского монастыря, «Церковь Варлаама Хутынского и «Церковь Ильи Пророка на Каменьи, поставлены на государственную охрану в качестве объекта культурного наследия федерального значения. В настоящее время в нем располагается федеральное государственное учреждение культуры «Всероссийский художественный научно-реставрационный центр имени академика И.Э. Грабаря».
