В апреле 1864 года, за несколько месяцев до окончания Кавказской войны, полковник кубанского казачьего войска Иван Диомидович Попко был назначен командиром только что созданного Псекупского полка в станице Ключевой. Забот у командира полка было больше, чем достаточно, и тем более удивительно, что он нашёл время для организации музея горцев. И.Д. Попко в июле 1864 года обращается с специальным письмом ко всем начальникам станиц, в котором указывает, что считает полезным «… приостановить окончательное истребление следов, оставленных в районе полка абадзехами и бжедугами…»
«Памятники эти, конечно, бедны, – отмечает Попко, – но они составляют драгоценный материал для изучения народа».
После этого в штаб-квартиру Псекупского полка в станице Ключевой (с 1965 года входит в состав Горячего Ключа) начали поступать экспонаты для будущего музея. Их количество увеличивалось, и встал вопрос о месте хранения.
Решение пришло простое и оригинальное. На полковой двор привезли горскую саклю, где и поместили музей. Часть экспонатов представляла предметы мастеров того времени, другая относилась к эпохе древних греков и генуэзцев. Были предметы быта, земледельческие орудия.
В 1867 году, при осмотре Псекупского казачьего полка наместником царя на Кавказе Великим князем Михаилом, ему были представлены экспонаты музея, составляющие три отделения: палеонтологическое, минералогическое и этнографическое.
Это был первый музей на Кавказе. Даже в Тифлисе подобное просветительское учреждение официально было открыто лишь в январе 1867 года, хотя там в то время располагалось наместничество России на Кавказе, а в Екатеринодаре музей был открыт только в 1879 году.
В настоящее время коллектив городского исторического музея города Горячий Ключ считает наш музей правопреемником первого музея на Кавказе, основанного в 1864 году.
Музей располагается на центральной улице курорта, в здании, введенном в эксплуатацию в мае 2000 года. Экспонаты представлены в залах археологии и палеонтологии, кубанского быта, военной истории, выставочном зале.