Армяне селились в этих местах ещё в XVI-XVIII вв. Однако современное название переулок получил только в конце XVIII в., после того как в 1781 г. армяне получили разрешение на строительство здесь своей церкви. Сейчас о былом напоминает здание по адресу Армянский переулок, дом 2. Усадьба принадлежала семейству Лазаревых (Лазарянов). По завещанию И.Л. Лазарева в нём было учреждено училище для детей бедных армян. Затем располагались Лазаревский институт восточных языков и Институт востоковедения АН СССР. В настоящее время в нём находится посольство Армении.