Трехсвятительская церковь во имя Казанской иконы Божией Матери занимает доминантное положение в нижнем городе, что за городским форштадтом. Выстроенная на пожертвования жителей Переведенной слободы, она была симбиозом старых русских храмов, классического барокко и классицизма. О классицизме уже ничего не напоминает, а барокко ощущается отчетливо — даже испорченное пристроями. Холодный храм, построенный в 1761 году, имел главную святыню — икону Казанской Божией Матери. Теплый придел посвящен Василию Великому, Григорию Богослову и Иоанну Златоусту — трем святителям, канонизированным церковью в разное время. В приделах церкви размещались небольшие алтари во имя Симеона Странноприимца и Анны Пророчицы, а во втором ярусе колокольни помещался Параскево-Пятницкий придел. Церковь строилась не сразу: вначале холодный храм, затем трапезная и колокольня. Окончательно строители ушли с площадки в 1765 году. Возле церкви долгое время сохранялся дом воеводы Каменицкого, в котором пировал Емельян Пугачев. Сам дом был разобран еще в конце прошлого века, но от него сохранилась кладовая, сложенная из камня в 1765 году и принадлежавшая до революции купцу Кубанцеву, имевшему возле церкви дом. Легенда связала этот «амбар» с именем Пугачева, и сказание оказалось настолько прочным, что это здание до сих пор называют Пугачевской палаткой.
Храм был закрыт позже многих других церквей города — в 1935 году. Вскоре снесли главу и колокольню, а само помещение бывшего храма отдали краеведческому музею, переехавшему сюда из приговоренной к сносу Владимирской церкви Петропавловского монастыря. Позднее нужда заставила расширять музей: росли фонды, хронически не хватало экспозиционных площадей, поэтому появились пристрои, скрывшие архитектурные особенности старого храма. В церкви восьмерик играл значимую роль — обеспечивал движение храма вверх, пропуская дололнительный свет, внося в интерьер эффект горних высей. В диаметре он почти уступал поперечнику четверика, поэтому этот храм можно назвать не двух, а трехсветным. Любопытно, как решили зодчие непростую задачу — на столь широком восьмерике разместить небольшую главу. Выход был найден простой: восьмерик завершили почти конусообразным покрытием. Небольшой изгиб придал покрытию шлемовидность — очень крутую, но все же создавшую иллюзию куполообразности. Не изобрети строители такого купола, они были бы вынуждены ставить на восьмерик пропорциональный, то есть огромный барабан, а общая высота сооружения неизмеримо выросла бы, превысив разумные пределы. Любопытно и то, что изгиб купола имел логическое продолжение в круто изогнутом покрытии главы. Храм не блещет пышностью декора, зато наличники, порталы, карнизы — все выполнено массивно, даже тяжеловато из специального фигурного кирпича. Обращают на себя внимание наличники второго света: их трехлопастные навершия перерезают нижний декоративный пояс карниза, что придает фасаду нарядность. Еще одна особенность — странная конструкция очень широкой трапезной. Она пристроена не вдоль, а поперек генеральной линии — с севера на юг, а не с запада на восток. Основание колокольни тоже необычно — оно не квадратное, а прямоугольное в плане, поэтому с высоты птичьего полета церковь выглядела как крест. Все окна трапезной строители оформили так же, как и на самой церкви.
Трехсвятская церковь была духовным центром квартала ремесленников, пахотных солдат и работных людей. Переведенная слобода была густонаселенной, и места для общих собраний и богослужений в зимнее время требовалось много. В 2008 году, отмечая 90-летний юбилей краеведческого музея, представители власти заявили о выделении средств на строительство нового здания музея, а освободившееся здание вновь будет принадлежать Саранской и Мордовской епархии.