В 1961 году преподаватель географии Медвежьегорской школы-интерната № 4 Виктор Петрович Ершов совершил с учениками краеведческие походы по району, в результате которых было собрано значительное количество находок, ставших первыми экспонатами школьного музея. 7 апреля 1962 года на базе Медвежьегорской школы-интерната № 4 был открыт Медвежьегорский историко-краеведческий музей, его первоначальное название.
В течение года он принял более тысячи человек. Руководителем школьного музея был учитель географии Виктор Петрович Ершов. Ребята во главе с учителем продолжали ходить в походы по району и собирали экспонаты для своего школьного музея.
В 1969 году, на основании постановления Совета Министров Карельской АССР, школьный музей был преобразован в филиал Государственного историко-архитектурного и этнографического музея-заповедника «Кижи». В 1977 году музей вновь пережил преобразования и стал филиалом Карельского государственного краеведческого музея. С 1991 года организация приобрела самостоятельность и стала называться «Медвежьегорский городской музей».