Воронежский губернский музей был открыт 9 (21) сентября 1894 г. Первым его директором стал Стефан Егорович Зверев.
Музею предоставили три комнаты на втором этаже в старом здании Городской Думы (сейчас Плехановская, 3). Из членов Статистического Комитета была образована комиссия по организации музея в составе: Ф. Д. Черткова(председатель), Е. Л. Маркова, В. Н. Колюбакина, В. К. Задлера, К. К. Федяевского, М. С. Карташова, С. Е. Зверева, К. Смирнова, М. П. Паренаго. Ко дню открытия в нем было до 2400 предметов, распределяющихся по отделам: естественный — около 30, этнографический — около 45, археологический — около 205, нумизматический — около 1500, историко-географический — около 130, библиотека — около 500.
После открытия музея продолжилась работа по пополнению коллекций. В это время археологические раскопки были одной из основных сторон научной работы музея. Велись исследования: кургана в с. Мазурках Новохоперского уезда, Старого Маяцкого городища близ Дивногорского монастыря, «Хозарского» городища близ Воронежа, «Частых курганов». Именно благодаря ценным предметам, найденным в 1911 г. при раскопках «Частных курганов», сотрудниками музея удалось решить вопрос о предоставлении музею нового здания. В июле 1911 г. музей получил здание «Воронежского дворца» (ныне пр-т Революции, 18).
Однако начавшаяся Первая мировая война, Революции, Гражданская война не позволили осуществить задуманную перепланировку помещений. Сотрудникам музея пришлось перестраивать свою работу, и, в первую очередь, участвовать в спасении имущества, разоренных дворянских имений Воронежской губернии. Деятельность по пополнению фондов музея продолжалась и в 1930-е гг.
К 1941 году Краеведческий музей насчитывал в своих коллекциях около ста тысяч предметов. Великая Отечественная война 1941–45 годов нанесла колоссальный ущерб городу, не пощадив и музеи. Только незначительная часть фондов была эвакуирована в Казахстан и Сибирь, а оставшиеся коллекции в основном погибли. В 1943 году музей возобновил свою деятельность в здании Антирелигиозного музея, который как и Музей революции после реэвакуации был объединен в единый Краеведческий музей. В 1948 году музею было возвращено принадлежавшее ему ранее здание, в котором был также размещен Музей изобразительных искусств. В 1959 году музею было выделено отдельное здание по ул. Плехановской, в котором он размещается и в наше время.
Основная экспозиция музея располагается в здании, являющимся объектом культурного наследия регионального значения начала XX в. «Школа слепых». В конце XIX века территория, на которой расположен музей, входила в состав усадьбы купца А. Н. Клочкова. Здание было построено в 1902—1904 гг. как губернское училище для слепых детей, принадлежавшее Мариинскому попечительству о слепых. Эту усадьбу Н. А. Клочков подарил городу для учреждения училища слепых и слабовидящих детей, на территории которой на общественные пожертвования было построено здание училища. В здании находились спальни для мальчиков и девочек, классные комнаты, библиотека, медицинский изолятор, помещения для преподавателей. В центральном двусветном зале была устроена церковь Марии Египетской. Иконостас выполнил в Москве художник Борцов. Одна из икон, Казанской Божьей Матери, была подарена преподобным Иоанном Кронштадским. До 1941 г. училище действовало под названием «школа слепых». После освобождения Воронежа в восстановленном здании до 1959 г. размещался воронежский облисполком. Затем здание было передано краеведческому музею.
В 1970–1980-е гг. ведется работа по расширению структуры музея: в 1978 году открылся филиал музея в Доме известного клоуна-дрессировщикаА. Л. Дурова (ул. Дурова,2), а в 1983 году в здании памятника архитектуры «Арсенал» по ул. Степана Разина, 43 открылась новая стационарная экспозиция «Воронежская область в годы Великой Отечественной войны 1941–1945 годов».
В 1987 г. к 70 годовщине Октбярьской революции открылась основная экспозиция по истории Воронежского края (ул. Плехановская, 29) и тогда же для фондов музея передали здание на пр-те Революции, 22 («Дом губернатора»). Даже в сложные1990-е гг. музей не только отметил свое 100-летие (1994 г.), но вел активную собирательскую, выставочную и научную деятельность.
