История храма во имя Архангела Михаила восходит к XII столетию, когда город Карачев впервые упоминается в Ипатьевской летописи 1146 года. Как и все древние города Руси, город Карачев от многочисленных врагов был укреплен земляными валами, на которых стоял деревянный кремль, долгое время являвшийся резиденцией Карачевских князей. Одним из храмов кремля был храм во имя Святого великомученика Георгия, который, вероятно, был разрушен в годы Смуты и самозванцев. При возобновлении города, после Смутного времени, на месте разрушенного храма был сооружен деревянный храм во имя Архистратига Михаила, просуществовавший около столетия и в середине XVIII века замененный каменным.
При начальном устройстве в храме был один престол во имя Архистратига Михаила. В 1786 году сооружен первый придел в честь Страстной иконы Божией Матери; в 1809 году воздвигнут второй придел во имя Святителя Димитрия Ростовского и сооружена колокольня. В 1844 году карачевским купцом Николаем Бочаровым устроен третий придел в честь иконы Божией Матери «Взыскание погибших». И, наконец, в 1848 году церковным старостой Константином Писковитиным сооружен четвертый придел во имя Великомученика Георгия Победоносца. В 1900 году вместо разобранной колокольни была сооружена деревянная звонница. После государственного переворота 1917 года храм во имя Архистратига Михаила некоторое время оставался действующим и был закрыт в 1938 году. Перед войной была разобрана звонница. В 1941 году во время немецкой оккупации храм был открыт. В 1961 году храм снова закрыли советские власти. В 1973 году здание храма передано детской спортивной школе, затем в нем устроили склад стройматериалов.
В 1989 году здание храма было возвращено верующим, начались восстановительные работы. В 1990-1992 годах возстановлены росписи храма, в 1994-1996 годах была возстановлена колокольня. С 2003 года при храме действует Воскресная школа.