Решение о строительстве храма появилось у жителей Журавлевки в 60-х годах XIX века, что было связано с быстрым ростом города и включением территории последней в состав города. Естественно, что росло и число жителей Журавлевки, близлежащих хуторов и деревень, которые впоследствии составили Петропавловский приход. По приблизительным подсчетам, всех прихожан было около 3 тысяч. Прихожане в основном принадлежали к сословной группе государственных крестьян, но встречались среди них и мещане, и купцы, и дворяне.
Общим решением приходского собрания было определено построить храм в честь апостолов Петра и Павла, поскольку тогда еще не было храма, посвященного этим святым, а престолы, установленные в честь апостолов, в других церквях так обветшали, что требовали реконструкции или были уничтожены. До этого жители Журавлевки относились к храму Рождества Пресвятой Богородицы. Скорей всего, мысль о создании храма принадлежит прихожанам, которые впоследствии возглавили строительный комитет и принимали активное участие в устроении храма. Ими были харьковские купцы Иван Васильевич Яковлев с женой Пелагеей, Алексей Иванович Левченко, Иван Гаврилович Вихрев, Анна Ильинична Чечерина, а также крестьянин Дмитрий Петрович Стронов. К тому же в 1870 году появилась возможность осуществить планы по постройке Петропавловского храма: умер Иван Васильевич Болотов и оставил по духовному завещанию 25 тысяч рублей на храм, который будет строиться первым после его смерти. Василий Иванович был купцом первой гильдии и занимался различными торговыми делами в городе, в частности, у него была сеть галантерейных магазинов. Жертвовал он на многие церкви, но не очень большие суммы, в конце же своей жизни решил осуществить крупный проект. Кстати говоря, в то время среди богатых людей это было принято: оставлять по духовному завещанию большие суммы денег на благотворительные цели. Благотворительность вообще была в почете и всячески поощрялась среди харьковчан, это, можно сказать, была национальная черта слобожанина, которую они наследовали от своих заднепровских предков.
После соответствующего прошения, поданного прихожанами в Консисторию, был утвержден проект будущего храма, сделанный епархиальным архитектором, и в 1872 году начато строительство. Так, строительный комитет, главными представителями которого были купцы Иван Васильевич Яковлев и Алексей Иванович Левченко, а также крестьянин Дмитрий Петрович Стронов, определил купить усадебное место у генеральши Козляниновой, всего около двух десятин, и на нем строить храм. Затем был куплен еще небольшой участок земли, чтобы в дальнейшем расположить на нем дом для священника и дьякона. План земли и купчая крепость были составлены и впоследствии в 1882 году переданы духовной Консистории первым настоятелем Петропавловского храма Николаем Пантелимоновым.
Таким образом, к 1875 году здание храма было построено в форме корабля, трехпрестольным. При постройке храма на южной его стороне прихожанами было постановлено построить дом для приходского училища со сторожкой. 21 сентября 1875 года высокопреосвященнейший Савва, архиепископ Харьковский и Ахтырский, торжественно освятил северный придел, в котором был устроен престол в честь блаженного Василия Христа ради юродивого Московского Чудотворца, он являлся небесным покровителем главного благотворителя храма Василия Болотова. Освящение главного престола в честь святых апостолов Петра и Павла совершил викарий Харьковской епархии преосвященный Вениамин, епископ Сумской, 5 сентября 1876 года. Последний престол в честь святых пророка и Крестителя Господня Иоанна Предтечи и мученицы Пелагеи, были небесными покровителями главных устроителей Петропавловского храма купцов Иоанна и Пелагеи Яковлевых, освятил высокопреосвященнейший Амвросий, архиепископ Харьковский и Ахтырский, 12 октября 1886 года. Петропавловский храм содержался в основном пожертвованиями благодетельных людей, которые в разное время внесли в пользу храма 4850 рублей. Фрески внутри Петропавловского храма писал московский художник Иван Максимович Челяпов. Им были изображены 80 сюжетов священного содержания, которые писались масляными красками в реалистическом, академическом стиле.
В 1902 году на территории Петропавловского храма возникло приходское училище, которое в последствии отошло городу. А уже в 1907 году церковно-приходской совет решал вопрос о постройке церковно-приходской школы. Бесплатное образование, которое давало самые элементарные и необходимые сведения, было первым шагом на пути к всеобщему образованию и повышению общего образовательного уровня. Таким образом, строительство начальных школ было очень востребовано и всячески поддерживалось местным населением, не исключая и жителей Журавлевки. Еще в 1896 году на достаточно большую территорию Журавлевки и близлежащих хуторов и деревень приходилась только одна воскресная школа при Петропавловском храме. В курсе воскресной школы изучались первоначальная грамота, Закон Божий, арифметика, география, история и законоведение, естественная история, сельское хозяйство, гигиена.
В декабре 1909 года в Петропавловском храме состоялось первое собрание «Кружка ревнителей Православной церкви», на котором была проведена религиозно-нравственная миссионерская беседа. Она вызвала живой интерес у слушателей, поскольку собравшихся было около 250 человек. В ту пору харьковчане страдали от серьезных различных болезней, но захватившая в 1910 году весь город холера прошла незамеченной в приходе, и, как выразился настоятель протоиерей Андрей Любарский, «наш приход Петропавловский Бог хранил, смертности от холеры совсем не было».
Как снег на голову обрушилось известие о государственном перевороте в 1917 году, а вместе с ним и о начале революции. Люди не могли разобраться в происходящем: везде устраивались митинги, дебаты, обсуждения, нередко все заканчивалась драками и потасовками, зачастую с жертвами. Особо грубую и настойчивую пропаганду вели большевики, которые вскоре пришли к власти, и начали с того, что полностью изменили привычный для людей уклад жизни. Один за другим следуют декреты об отделении церкви от государства, о запрещении преподавания Закона Божьего в школах, о выносе из общественных и административных учреждений всех икон, о запрещении крестных ходов и вообще любых массовых движений, осуществляемых верующими. Узнав о декрете, об отделении церкви от государства, прихожане Петропавловского храма после службы решили пройти крестным ходом на Соборную площадь, однако власти запретили проводить подобную акцию и люди должны были ограничиться местным молебном.
При наступлении немецко-гайдамацких войск большевики продолжают проводить агитацию среди народа по поводу вступления в ряды Красной армии, и говорят, что сумеют оказать отпор врагу. Настоятель Петропавловского храма протоиерей Николай Смирнов охарактеризовал их призывы так: «этому могли поверить люди наивные или природные трусы». С повторным водворением большевиков в городе усилились грабежи и насилия, начали проводиться ночные обыски. В середине 1919 года многие газеты сообщали о колебании власти большевиков, поскольку последняя отталкивала от себя народ своими бесчинствами. В августе 1919 года прихожане Петропавловского храма приняли участие в молебне на Николаевской площади, который проводился перед иконой Озерянской Божьей Матери по случаю освобождения города от большевиков. Преосвященный Феодор преподнес генералу Корнилову список с чудотворного образа Озерянской Божьей Матери. Как пишет настоятель Петропавловского храма протоиерей Николай Смирнов: «вздохнули свободно под охраной новой власти, стремящейся направить разбитую жизнь в правильное русло».
По свидетельству старожил, Петропавловский храм продолжал функционировать вплоть до 1937 года, когда его настоятель отец Андрей Толмачев был арестован Советской властью. Следующие свидетельства позволяют сказать, что в 1938 году протоиерей Андрей Толмачев был расстрелян.
Счастливые перемены в отношении государства к церкви, последовавшие в 40-х годах XX века, отразились и на Петропавловском храме, который был зарегистрирован органами власти 25 апреля 1945 года, и с этого момента в нем начали идти службы. Прихожанам храм достался в полуразрушенном состоянии. Старожилы рассказывают, что в войну отходившие большевики подожгли храм, поэтому купола сгорели, да и роспись внутри не уцелела. Во время войны немцы держали в храме лошадей, то есть превратили святое место в хлев.
В храме прежние купола были заменены новыми, более большими и соответствующими общему архитектурному стилю, которые сохранились и сегодня. Из двухкупольного храм превратился в пятикупольный, что произошло за счет постройки каменной паперти и размещению на ней трех куполов. Внутри храма были сделаны серьезные реставрационные работы, а также электрическая проводка, которая позволила заменить свечи в паникадиле на электрические лампочки. В храм была проведена вода, а пол, который был до этого бетонным, сделан деревянным. Территория Петропавловского храма была приведена в порядок: заасфальтирован участок вокруг храма и поставлена железная ограда.
В 2003 году по благословению владыки Никодима в Петропавловском храме проходят реставрационные работы. В том же году внутри храм заново оштукатурен и побелен, положен новый пол, начаты подготовительные работы по написанию фресок. В продолжении 2004-2006 годов окончена роспись храма, которая выполнена в реалистическом стиле академической манеры исполнения группой опытных художников-реставраторов. Под руководством Павла Евгеньевича Тряпицына над росписью храма работали Ольга Александровна Трувчанинова, Владимир Анатольевич Лукьянов, Александр Валерьевич Магдич, Павел Петрович Сорочинский, Владимир Михайлович Бурчиян. В основу расположения сюжетов взяты росписи византийских храмов. Использование светлых орнаментов во взаимоотношении с насыщенной по тону живописи позволило полнее подчеркнуть высоту и стройность внутренней архитектуры Петропавловского храма. В 2004 году были проведены строительные работы в алтаре, в результате чего алтарная часть и солея были значительно подняты над центральной частью храма. Впоследствии пол в алтаре и на солее выложены паркетом и вскрыты лаком. Новый резной иконостас и кованая ограда поставлены в 2005 году, тогда же сделан новый верхний клирос, полностью обшит притвор. В вечернее время храм украшает художественная подсветка, которая, как бы возвышая храм, делает его одной из интереснейших достопримечательностей Харькова.
