Еще до основания города на берегу Волги основалась рыбная слободка, называвшаяся «Симбирской». К середине XVII века православное население этой слободки уже имело у себя Соборную церковь Смоленской Богородицы. Церковь размещалась на Смоленском спуске к Волге с северной стороны города. Среди крутого косогора на небольшой относительно ровной площадке со спокойным рельефом, широкой панорамой видов на Волгу, в окружении дикой природы «красиво высится белая, каменная, в виде корабля выстроенная, церковь в честь Смоленской иконы Божией Матери». Смоленская церковь возводилась частями. Самой древней ее частью является холодная церковь, расположенная с ее восточной стороны. Первоначальная церковь была скитскою или пустынскою и принадлежала Успенскому монастырю. Во время осады и сражений с войсками Степана Разина крепость города и Смоленская церковь уцелели.
В 1674 году после сооружения Успенской церкви и восстановления Успенского монастыря Смоленская церковь отделилась от монастыря и превратилась в приходскую. Смоленская церковь содержалась первое время за счет незначительного прихода и доходов от часовни на кладбище, расположенном недалеко от берега Волги. В состав Симбирского Успенского монастыря к 1674 году входили: Успенский монастырь с Успенской церковью; Соловецкая пустынь, располагавшаяся верстах в 17-ти севернее Симбирска на правом лесистом берегу Волги; Смоленская церковь. Успенская церковь была в 1866 году разобрана и перенесена в Нагорную часть города. Соловецкая пустынь просуществовала до 1764 года, а Смоленская церковь просуществовала до начала XX века.
В 1751 году бывший симбирский купец И.И. Воронцов к существующей холодной каменной церкви по оси запад-восток пристраивает теплую каменную церковь того же наименования. Сообщение обеих церквей осуществляется через дверь, устроенную в алтаре теплой церкви, у места его соединения с западной стеной холодной церкви. При теплой церкви была сделана каменная трехъярусная колокольня. Первое время обе церкви были крыты тёсом, затем железом и выкрашены медянкой. Ограда ранее была деревянною, в последующее время XIX века она отсутствовала.
В 1913 году храм сильно пострадал во время оползня, в конце 1920-х годов из-за аварийного состояния его закрыли. Окончательно Смоленскую церковь разобрали после 1932 года.