Комплекс «Углекислые ванны нарзана» возвели к 100-летнему юбилею Кисловодска в 1903 году. Под комплекс отвели правый берег реки Ольховки, в самом центре города, на Тополевой аллее (ныне — Курортный бульвар), рядом с Деловым двором, мастерские которого задействовались в строительстве. Здесь находилось небольшое нарзанное озеро. Работы поручили гражданскому инженеру Андрею Николаевичу Клепинину. Он разработал проект двухэтажного здания, нижний этаж которого отводился под нарзанные ванны и бассейны, а верхний — залы для массажа, сауны, пресные души различных типов для гидротерапевтических процедур, а также особая массажная ванна «велленбад» с искусственным волнообразованием, в которой из специального отверстия в стенке лился поток горячей воды.
Предполагалось, что с постройкой такого здания удастся приучить публику к пользованию водами и в зимние месяцы.
Материалы поставляли со всей страны: кирпич везли из пятигорского завода Бородкина, цемент использовался с черноморских (новороссийских) заводов «Цепь» и «Звезда» от торгового завода Попова, торгового дома «Кернер и Бергер» (Ростов-на-Дону), с завода Баранова из Армавира, а также с донецкого цементного завода; пирогранитные, кафельные и мозаичные плитки поступали со стекольного завода Сазонова, лес отличного качества выписывался из Царицына от фирмы Максимова, скульптурные работы выполнил известный тогда скульптор Людвиг Карлович Шодкий.
Строительство комплекса продолжалось с 1901 по 1903 годы и обошлось государству в 393 тысячи царских рублей, часть денежных средств в строительство вложил эмир Сеид Абдулахад-хан Бухарский, который лечился в Кисловодске в 1903 году.
После революции к 1920 году семья Клепининых решают эмигрировать. Через Константинополь они переезжают в сербское поселение Бор. Здесь архитектором возведены церковь, дом Сокольского, больница. В конце жизни переехал к дочери в предместье Парижа. Скончался и похоронен в 1954 году в местечке Маллкофф («Малахов»).
Семья Клепининых находилась в дружеских отношениях с семьёй поэта Марины Цветаевой. Её супруг С. Я. Эфрон посодействовал Клепининым в возвращении на Родину, где обвинённые в шпионаже в пользу Франции в июле 1941 года они были расстреляны.
