В первой половине XIX века северная окраина Харькова Пески были предместьем г. Харькова, хуторком хат в 30, рубленных, мазанных глиной и крытых соломой. Население Песков состояло из крестьян-малоросов, занимавшихся хлебопашеством. Многие из них, имея 1015 пар волов, занимались, до проведения железной дороги, чумачеством, доставляя произведения юга на север и обратно. Песчаное подгорье с востока примыкало к Университетской горе и саду, с запада к земле крупных владельцев Бедрягиных, с севера Сердюковых: на юге были непроходимые болота, позже преобразованные в городской скотоприимный двор, к которому примыкали левады и огороды песковских хлебопашцев. Со временем район Песков быстро разрастается. Идет переселение крестьян в другое место, а земля застраивается. На этой земле, для какого-то университетского здания, оставлен был незастроенным лишь тот участок, в 784 кв. саженей, где сейчас Пантелеимоновский храм. На этом участке под горой от громового удара открылся источник прекрасной воды, которая считается и до сих пор целебной. Вскоре, по распоряжению губернатора Кокошкина, под этой горой вырыто было несколько колодцев, снабжавших жителей Песков здоровой водой.
С увеличением населения возрастала потребность в выделении Песок в самостоятельный приход. Еще в 1866 году Г.Г Федоров много хлопотал, чтобы Университет отдал эту незастроенную землю под церковь. По многим причинам эта попытка не увенчалась успехом. Прежде всего у населения не оказалось средств для постройки. Старые обыватели обеднели: железная дорога подорвала чумачество, а распоряжение губ. Кокошкина не ставить на Песках стогов хлеба и сена дурно отозвалось на хлебопашестве. К началу 1880-х годов в этом районе появляются несколько выдающихся по своему общественному и материальному положению лиц: К.Н. Захарьев, Н.А Жевержеев, В.Ф. Федоров, В.И. Богданов, М.Ф. Алексенко и др. В январе 1882 года было подано прошение преосв. еп. Харьковскому Иустину, который дал добро. О большом желании иметь храм свидетельствует и сумма в 10 тысяч рублей, собранная при сборе подписей среди жителей.
В 1882 году 24 мая преосв. Иустином был утвержден план церкви и избран строительный комитет, состоявший из председателя К.Н. Захарьева и членов: настоятеля Сергиевской церкви 2-й Харьковской гимназии свящ. Василия Ветухова, Н.А. Жевержеева, В.Ф. Федорова, В.И. БогдановаГайдукова, Н.И. Болховитинова, М.Ф. Алексенко, Н.С. Соболева, И.А. Вышемирского и В.Т. Авдеева. 6 июня преосв. Иустин в сопровождении духовенства и многочисленном стечении народа совершил крестный ход через университетский сад и освятил место закладки храма. Видя большой энтузиазм среди народа, строительный комитет решил расширить намеченый план и устроить еще два алтаря. Устроение одного из приделов во имя св. Иоанна Воина взяла на себя вдова харьковского купца Е.М. Огненко, заказав иконостас А.Н. Бурлакову и пожертвовав на церковь 2000 руб.
Храм строился быстро: уже в 1883 году выстроены стены и церковь покрыта железом. Колокольня преобразована в трехъярусную для этой цели В.Ф. Федоров и И.С. Соболев пожертвовали 40 тыс. кирпича. Оконные рамы пожертвованы Н.И. Ромашевым, подрядчиком плотничных работ, бесплатно застеклен храм Куриным. Деревянная работа, покрытие ее золотом, установка центрального иконостаса выполнена мастером Бурлаковым за 1600 руб. Иконы написаны художником М.Ф. Плотниковым, учителем рисования во 2-й Харьковской гимназии, за небольшую плату. Иконы св. великомуч. Пантелеимона и свт. Николая в серебряных позолоченных ризах и такие же к ним лампады пожертвованы купцом В.И. Бочаровым. Внутреннее благоукрашение дело Петра Прокофьевича Неретина. Им пожертвованы: облачение для престола и жертвенника из серебряной парчи, дарохранительницу и дароносицу, напрестольное евангелие с полным прибором и две металлические хоругви, всего на сумму 1500 руб. К июлю 1885 года был полностью готов придел Иоанна Воина.
Архитектор храма епархиальный архитектор Ф.И. Данилов. В его творчестве повторное проектирование явилось методом полной реализации архитектурной идеи. Это хорошо иллюстрирует группа проектов церквей, разработанных на основе проекта Пантелеимоновской церкви. Автору удалось в восьми храмах реализовать различные композиционные варианты церкви без изменения основного объема, здесь меняется только декоративное оформление фасадов. Колокольня же варьируется от двух ярусов до четырех.
Церковь выстроена в руссковизантийском стиле, строгом, скупом на украшения. В 1897-1898 годах храм реконструировал архитектор М.И. Ловцов, автор Благовещенского Собора и Дмитриевской церкви. Он украсил фасад церкви декоративными деталями, что придало церкви нарядный и праздничный вид. Реконструкция церкви также предполагала и расширение. Из архива архитектурных стилей Ловцов заимствовал детали русской архитектуры XVI XVII веков. Над главным входом появился шатровый купол, а по бокам декоративные башеники с луковичным завершением.
С революцией 1917 года положение Церкви в государстве усложнилась. В феврале 1930 года храм был закрыт и отдан под клуб глухонемых, школа-интернат которых находилась рядом, на Тургеневской улице. Позднее в церкви разместилась школа чувствовалась нехватка зданий для учебных заведений. В процессе эксплуатации были демонтированы башня с куполом, декоративные башенки, шатровое завершение над главным входом, из купола колокольни был просто вырван крест. Во время Великой Отечественной войны в храме вновь были возобновлены богослужения. Службы совершались в правом приделе, освященном в честь явления Ахтырской иконы Божией Матери до 1961 года. В этом же году храм был закрыт и использовался как складское помещение. В 1982 году помещение церкви отдано спортивному обществу Динамо под музей. В помещении храма должен был быть произведен капитальный ремонт, но за 7 лет ничего не было сделано.
В 1989 году храм св. вмч. Пантелеимона был возвращен Харьковской Епархии Украинской Православной Церкви. Первую Литургию в полуразрушенном храме совершил, Митрополит Харьковский и Богодуховский, Никодим 21 октября этого же года. Настоятелем храма, в последствии, с благословения Митрополита Харьковского и Богодуховского Никодима, был назначен священник Леонтий Танашкин. Предстояла тяжелая работа по восстановлению оскверненной святыни. Благодаря архипастырской заботе и материальной поддержке Владыки Никодима, трудолюбию и организаторским способностям молодого настоятеля, а также боголюбивым жертводателям и благочестивым прихожанам храм быстро начал возрождаться. В первый престольный праздник 9 августа 1990 года были освящены колокола, а 17 августа того же года занял свое место вновь сооруженный центральный купол храма. 9 августа 1991 года состоялось освящение главного престола, восстановленного центрального алтаря, в честь великомученика Пантелеимона.
В 1992 году, после долгих поисков, на территории храма был обретен утерянный, казалось, уже навсегда, источник. Со временем территория, окружающая источник, была облагорожена, разбиты цветники, над колодцем сооружен купол, а в 1994 году выложен мозаичный образ Святого великомученика и целителя Пантелеимона. В 1995 году на строительных работах по восстановлению храма в возрасте 39 лет, трагически погиб настоятель Свято-Пантелеимоновского Храма, протоиерей Леонтий Танашкин. Похоронен отец Леонтий в ограде храма, строительству которого были отданы последние годы его жизни.
26 мая 1995 года, по благословению Высокопреосвященнейшего Митрополита Никодима, настоятелем восстанавливающегося храм был назначен клирик Благовещенского Собора протоиерей Николай Терновецкий. Полуразрушенному зданию храма уже были возвращены прежние формы, и работы по его внешней реставрации, в целом, были завершены. Но перед новым настоятелем стояла не менее сложная и ответственная задача — восстановление внутреннего благолепия разоренной святыни. Четыре года потребовалось художникам: Валерию Сименюку, Игорю и Сергею Климешовым, чтобы вдохновенные лики святых, живописные библейские сюжеты и богатые орнаментальные декоры украсили стены храма.
Богатством и великолепием отличаются резные иконостасы и киоты, выполненные мастером своего дела, Александром Гречихиным. Особую теплоту и изысканность внутреннего убранства храм приобрел благодаря искусно выполненным резным отделочным работам Иоанна Терновецкого. В них нашли свое выражение сила таланта и любовь к храму Божию трудолюбивого мастера. В 1999 году, к 200-летию образования Харьковской Епархии, в Свято-Пателеимоновском храме были завершены все восстановительные работы. Понадобилось целых десять лет, чтобы вернуть святыне былую красоту и великолепие.
Одновременно с реставрацией храма велись работы по благоустройству его территории и прилегающих к нему зданий. Вокруг церкви возведена красивая ограда. В 2000 году Свято-Пантелеимоновскому храму возвращен дом первого настоятеля о. Василия Ветухова. Усилиями ревностных устроителей дом отреставрирован и гармонично вписался в архитектурный ансамбль Свято-Пантелеимоновского храма.