Первое упоминание храма датируется началом XVII века при допросе приверженцев Дмитрия Самозванца. Также известно, что один из колоколов церкви имел надпись «подаянием приходских людей», которая появилась в 1600 г. Знаменская церковь находилась на углу улицы Знаменка и Большого Знаменского переулка (Знаменка, вл. 17), которые получили название именно по этой церкви. Храм стал каменным в 1646 году, позже перестраивался в 1657 г., а сама колокольня была возведена через десять лет. Масштабные изменения церковь претерпела в середине XVIII века, здесь появляется одноглавый кубический храм, который был перекрыт сомкнутым сводом. В это же время достраивалась трапезная с приделом Николая Чудотворца и колокольня в классицистическом стиле (1784-1785 гг.).
В 1929 году церковь была закрыта, спустя два года, и вовсе разрушена. Сейчас на этом месте возле дома на Знаменке 15 расположена площадка для автомобилей Министерства обороны.


