Музей основан 1 января 1890 года. Инициатором создания был П. С. Михно, местные купцы, ссыльные и кяхтинская интеллигенция. В 1890 году, после посещения Кяхты семьёй Потаниных, был избран временный комитет, занявшийся поиском средств на содержание музея. Тогда же стали появляться первые экспонаты. Первым хранителем музея стал П. С. Михно.
В 1892 году на средства кяхтинского купца И. Д. Синицына была снята квартира площадью 40 м² и закуплено музейное оборудование. К 1893 году фонды превысили 2 тысячи экспонатов. Купец А. Д. Старцев пожертвовал музею каменный дом. В это время хранителем музея была учительница Е. Н. Соколова.
В создании музея принимали участие политические ссыльные Н. А. Чарушин, Попов, Моллесон, Левин. Из-за сопротивления местных властей музей не имел утверждённого устава и не считался официальным учреждением. Д. А. Клеменц в 1893 году прочёл в Кяхте лекцию «О задачах местных музеев» и предложил открыть в городе отделение Императорского русского географического общества (ИРГО). 13 июля 1894 года в Кяхте было открыто отделение общества и музей вошёл в него как подразделение ИРГО. Возглавлял Троицкосавско-Кяхтинское отделение ИРГО врач Ю. Д. Талько-Грынцевич, в будущем член-корреспондент Краковской Академии Наук и Чешско-Славянского научного общества. 1 января 1895 года музей был открыт для посещения публики по воскресным дням.
С 1894 года по 1897 год отделение ИРГО и музей проводили экспедиции по изучению юго-западного Забайкалья. Музей ставил спектакли и концерты, проводил лекции. В формировании коллекции принимали участие В. А. Обручев, Д. А. Клеменц, П. К. Козлов. Были составлены коллекции по энтомологии, орнитологии, герпетологии, ихтиологии, геологии, археологии, палеонтологии и ботанике. В Монголии были закуплены предметы буддийского культа и предметы быта монголов.
Фонды музея к 1904 году выросли до 14 тысяч единиц хранения. К 1911 году сотрудниками музея было опубликовано 185 научных работ.
В период Первой мировой войны научная деятельность музея была практически свёрнута. Во время Гражданской войны музей почти прекратил своё существование.
31 января 1922 года Правительство Дальневосточной Республики (ДВР) приняло постановление о передаче музея в ведение Министерства народного просвещения. Музей получил денежное содержание, штат работников и двухэтажное здание бывшего 4-классного городского училища, построенное купцом Нерпиным в 1847 году. Летом 1921 года П. С. Михно возобновил научные экспедиции, и в апреле 1922 года вновь стал хранителем музея.
После образования Бурят-Монгольской АССР, с 1 октября 1923 года музей был передан в ведение Бурнаркомпроса. На 1 января 1924 года в коллекции находилось 19 989 экспонатов. В 1923 году музей посетило 4 190 человек, состоялось 27 школьных экскурсий. Коллектив состоял из 5 человек, поэтому в ноябре 1924 года при музее был создан ученический краеведческий кружок для старшеклассников. С 1927 года кружок выпускал рукописный журнал «Следопыт», который позднее стал называться «Кяхтинский краевед».
Летом 1930 года музей провёл исследования Боргойской степи. Было собрано 350 видов растений, 32 образца почв, 200 образцов горных пород, около 1000 насекомых, 20 змей, мхи и лишайники. В нескольких километрах на восток от Боргойского сомона был найден оленный камень.
К 1931 году коллекции музея выросли до 50 тысяч единиц хранения.
В 1940 году в честь 50-летия музея ему был присвоен статус республиканского и имя академика В. А. Обручева.
После Великой отечественной войны музей организовал 10 краеведческих кружков, выпускал газету «За советскую науку».
В 1964 году сотрудники участвовали в создании краеведческого музея в городе Сухэ-Баторе, Монголия.
В 1970-е сотрудники работали над созданием музея Монгольской Народной революции в городе Алтан-Булаке.
В 1975 году в Новоселенгинске был открыт филиал Кяхтинского музея — Музей декабристов.
В 1981 году из научной библиотеки музея был выделен фонд редких книг.
В 1982 году при участии сотрудников музея был создан Музей народного творчества народов Забайкалья.
В 1984 году при участии Кяхтинского музея создан народный музей в селе Шарагол.
В 1980—1990-е годы музей принимал участие в археологических исследованиях. В 1996 году на базе Кяхтинского краеведческого музея был проведён Международный конгресс учёных археологов.
В 2004 году сотрудники работали над созданием нового музея — «Музея Российско-Монгольской дружбы».
В августе 2009 года сотрудники совместно с археологами Государственного Эрмитажа и Института истории материальной культуры РАН начали раскопки княжеского хуннского могильника Оргойтон близ села Зарубино Джидинского района.
Музей проводит Чайную церемонию – дегустацию чая, заваренного по старинным рецептам, включает до 8 видов чаев.
