Первый храм на месте нынешнего был построен ещё в 1890 году. Он был деревянным и построен на средства жителей пристанционного посёлка Петровск-Кавказский (ныне Махачкала 1-я). В 1905 году началось возведение каменного храма, на строительство которого сам император Николай II выделил 1000 рублей. Строительство было закончено через год 25 февраля 1906 года. Церковь была освящена в честь иконы Иверской Божьей Матери — покровительницы Кавказа.
После революции церковь была закрыта, а в её помещении в разные годы располагались склад и магазин. Богослужения были возобновлены только в 1943 году. В этот же год её освятили в честь иконы Успения Пресвятой Богородицы. В 1969 году по благословению Патриарха Алексия I в церковь был передан иконостас из церкви Святого Архангела Гавриила (Меньшикова башня), что расположена в Москве в Архангельском переулке. В 1988 году здание церкви было взято под охрану государства как памятник местного значения.
Новая жизнь храма началась после 1990-х годов. В связи с оттоком русскоязычного населения из Дагестана, наблюдается значительное уменьшение количества прихожан. Однако храм начал обновляться. 2 июня 2000 года храм получает статус кафедрального. В 2004 году для расширения площади собора к нему пристраивается придел, освящённый в честь Святого Александра Невского. В 2005 году по решению главы администрации Махачкалы Саида Амирова была начата реставрация храма. Заново расписаны свод и стены собора, восстановлен иконостас. Всю внутреннюю роспись храма проводили местные художники под руководством заслуженного художника России Абдулзагира Мусаева.