Дата первоначального возникновения часовни не известна.
Священник Екатерининской церкви Алексей Новогородцев в 1835 году сделал запись, что хранящаяся в этой часовне икона «совершает неимоверные чудеса. Сохранилось предание старожилов. В Тетеринской слободе жил некогда иконописец-раскольник, у которого отнялись ноги. Снится ему сон, что в часовне Тетерина стоит старинная икона святого пророка Ильи и следует ей помолиться. Действительно, нашли в часовне всеми забытую икону без ризы, и признал иконописец в ней виденную во сне. По совершении обрядов больной встал на ноги. После сего исцеления икона перенесена была в Троицкий храм, укрыта серебро-позолоченной ризой. Чтут её особенно ржевские раскольники. Есть на ней подпись, совсем непонятная. Тверские архиепископы Филофей и Савва рассматривали её и ничего не могли прочитать. Такова легенда об одной из почитаемых ржевских чудотворных икон».
В 1910 году здание часовни попало в кадр первооткрывателя цветной фотографии Проскудина-Горского. Но уже в 1911 году старое здание было заменено новым.
Уничтожена часовня в послевоенные годы.
