В 1919 году в помещении женской гимназии был открыт Народный дом, где одна из комнат была отведена под музей, в котором были объединены все школьные краеведческие коллекции. Специального работника для заведования музеем не было в штатах. Основную работу по музею добровольно взял на себя Сергей Иванович Пономарев, преподаватель естествознания II ступени школы №4. Началось интенсивное пополнение музея новыми экспонатами. Они поступали в основном от сельских школ. Учителя присылали предметы мордовской старины — одежду, утварь. Пополнялся нумизматический отдел музея старинными монетами, которые обнаруживались при земляных работах.
С ноября 1925 года музеем стал заведовать Александр Николаевич Изосимов, который до этого работал учителем Жегаловской начальной школы. Штатной единицы музейного работника по-прежнему не было.
В 1928 году была утверждена штатная единица по заведованию музеем и стали отпускаться средства на приобретение экспонатов.
Специального помещения для музея не было, его переносили из одного здания в другое. С 1948 года музей занял здание, которое ранее принадлежало купцу Котову. Это помещение бывший соляной склад. Там музей находился до 1970 года. С декабря 1970 года музей стал занимать другое здание по ул. Советская площадь 4, где ранее была электростанция. С 1992 года музей перевели в здание по ул. К.Маркса 3. С 18 октября 2010 года музей переехал в новое здание Дворца культуры.
В музее четыре отдела:
— отдел природы;
— отдел до революционного прошлого;
— комната боевой славы и вице- адмирала военно-морского флота А.С. Шиндяева и моряков пограничников;
— отдел «Сделано в СССР».
Все отделы созданы давно, но ежегодно подбираются новые экспонаты, согласно отделам и темы. Также у нас оформляются альбомы по В.О. войны, воинам интернационалистам, творческим людям и т.д.
В фондах музея храниться более 13 тыс. экспонатов. Наиболее ценные и уникальные коллекции:
— нумизматика;
— археологическая коллекция;
— этнографическая коллекция;
— коллекция чучел животных и птиц.