История этой полтавской святыни по-своему уникальна. Сразу после Полтавской битвы российский царь Петр I выдал указ об учреждении в честь победы над шведами на поле боя мужского монастыря, а в нем двух церквей: верхней каменной, во имя святых апостолов Петра и Павла, именно на день памяти этих святых, совершаемой по юлианскому календарю 29 июня, то есть в день своего тезоименитства, Петр I назначал Полтавскую битву, но Карл XII начал ее раньше – 27 июня, в день преподобного Сампсона, и нижней – Сампсоновской, во имя Сампсона Странноприимца. Однако в силу разных причин этот указ так и не был воплощен в жизнь.
Прошло время. В 1840 году тайный советник И. С. Судиенко, служивший при почтовом ведомстве во время царствования Екатерины II, пожертвовал капитал в 100000 рублей на сооружение церкви на поле Полтавской битвы. Был объявлен конкурс на проект храма над братской могилой российских воинов, и в 1841 году утвержден проект архитектора И. И. Шарлеманя, доработанный в 1848-м годом.
Храм в честь преподобного Сампсона Странноприимца был заложен в 1852 году, а освящен – в 1856-м году, строился он на средства уже упомянутого благодетеля И. С. Судиенко. Первая церковь была небольшая, каменная, простой архитектуры: византийский стиль, прямоугольная в плане, четырестолбная, увенчивалась центральным куполом и четырьмя декоративными главками по углам. Напротив нее, со второй стороны Братской могилы российских воинов, согласно давней украинской традиции, как и все поле битвы, она носит название от побежденной армии – Шведская могила, построили два небольших каменных домика для причта.
В 1887 году при Сампсоновской церкви основали небольшую школу для мальчиков, учителем в которой был тогдашний иеромонах обители отец Харитон Карпиленский. К нему начали ходить «по науку» также дети из окружающих сел и хуторов, и уже в 1888 году в школе насчитывалось свыше 30 учеников. Посему с сентября 1889 года школу грамоты реорганизовали в церковно-приходскую.
Богослужение в церкви стали совершаться ежедневно, поскольку ученики и их родственники, посещая школу, не обходили и храм Божий. В 1892 году на средства епископа Полтавского Илариона сооружено новое красивое помещение школы на 50 учеников, а в 1899 году здесь, на земле, подаренной купеческой дочерью М. К. Прохоровой, при содействии епископа и монастыря была открыта уже трехклассная церковная учительская школа для подготовки учителей церковно-приходских школ.
Между тем Сампсоновская церковь также стала тесной для прихожан и нуждалась в расширении и реконструкции. В августе 1890 года Полтаву и поле Полтавской битвы посетил обер-прокурор Синода К. П. Победоносцев. Он поддержал ходатайство полтавчан о развитии храма. Вернувшись в столицу Российской империи, он сразу же направил в Полтаву архитектора Синода Никонова, которому поручило составить проект и смету на перестройку церкви и памятника на могиле российских воинов.
Большие изменения выпали на судьбу этого храма накануне празднования 200-летия Полтавской битвы. Тогда по проекту архитектора С. В. Носова с западной стороны была достроена колокольня, разобранная в 1930 году; в самом храме установлен мраморный иконостас с резными орнаментами и цветными мозаиками, изготовленный фирмой Менциони в Москве, под руководством художника А. Я. Сокола расписан интерьер; на восточном фасаде церкви, обращенном к Братской могиле, в нише установлено картину с изображением Петра I во время молитвы накануне битвы, ниже закреплено мраморную доску с текстом приказа войскам.
В 1909 году, тоже в связи с 200-летием Полтавской битвы, при Сампсоновской церкви благодаря активной деятельности членов Полтавского церковно-археологического комитета – епископа Полтавского Иоанна, ученых И. Ф. Павловского, В. А. Пархоменка, А. Ф. Мальцев и других – был открыт первый музей Истории Полтавской битвы, который действовал до 1918 года.
Сампсоновская церковь пострадала во времена гонений на веру. Она была закрыта в 1948 году, и только в 1990-м году передана снова православной общине. В 2003 году в этом храме была восстановлена колокольня в ее первоначальном виде, в одной связи с церковью.