Тапа — важнейшая узловая железнодорожная станция Эстонии — возникла в 1876 году, когда было выстроено здание самой станции. Вокруг нее вырос небольшой поселок, населенный в основном железнодорожниками. Почти сразу был поднят вопрос об открытии прихода и устройстве храма, как для служащих станции, так и для окрестных жителей. Тапаский приход открывается Указом Святейшего Синода от 2 января 1895 года, и первыми организаторами духовной жизни стали священник Кирилл Янсон и псаломщики М.Фриш и Ф.Гиляровский. Первые богослужения совершались в здании Балтийского железнодорожного училища на станции Тапа, что было связано с определенными неудобствами. Указом Рижской духовной консистории от 30 апреля 1899 года местному священнику было дано знать о намерении строить каменную церковь, предписывалось учредить строительный комитет для наблюдения за работами, состоящий из священника, старосты и трех прихожан.
Строительство началось в 1901 году, и торжественную закладку храма совершили 2 сентября 1901 года по благословению епископа Рижского и Митавского Агафангела (Преображенского) священники Михаил Смирнов, Карп Тизик и Кирилл Янсон. Храм сооружен по проекту епархиального архитектора В.И.Лунского в византийском стиле и был освящен 13 июня 1904 года во имя Рождества Иоанна Предтечи архиепископом Рижским и Митавским Агафангелом (Преображенским, впоследствии митрополит Ярославский, один из кандидатов на место Местоблюстителя Патриаршего Престола после смерти патриарха Тихона, скончался в 1928 году. Канонизирован Архиерейским собором Русской Православной Церкви в августе 2000 года) в сослужении протоиереев Николая Лейсмана, Карпа Тизика и священников Михаила Смирнова, Кирилла Янсона, Павла Колона и Эллия Верхоустинского. Первым настоятелем храма был его строитель протоиерей Кирилл Янсон, который скончался 20 июня 1925 года на 88-м году жизни и погребен на старом городском кладбище. В 1929 году при настоятеле священнике Карпе Уставе был произведен крупный ремонт, который обошелся приходу в 2000 крон в основном добровольных пожертвований, при этом большую активность в сборе средств проявил дамский комитет.
В 1933 году настоятелем Иоанно-Предтеченского храма становится священник Эллий Андре (Верхоустинский). 20 лет не прерывалось его служение на этом месте, при этом некоторое время он по совместительству служил в приходах Арукюла и Пайде, был благочинным Нарвского округа. В 1952 году о. Эллий был утвержден в должности настоятеля Нарвского Воскресенского храма (ныне собор) и освобожден от обязанностей настоятеля прихода в г. Тапа. Скончался протоиерей Эллий Андре 21 ноября 1981 года и был погребен на кладбище села Тайлова Псковской области. Более 10 лет (1958-1969 гг.) настоятелем храма в Тапа был протоиерей Владимир Залипский. Много трудностей выпало на его долю в период т.н. «хрущевской оттепели». «Отец Владимир трудится в Тапа над малым стадом», — так писал протоиерей Валерий Поведский в своем письме о. Вячеславу Якобсу (ныне Митрополит Таллиннский и всея Эстонии Корнилий). После одного из ураганов, пронесшихся над Эстонией, ветром повредило крышу, сорвало жесть с колокольни, покосился крест. За ремонт просили большие деньги, а приход небогатый, и все приходилось делать своими руками. Жесть была пожертвована Александро-Невским собором, перевез ее на машине в Тапа сын протоиерея Михаила Рауда. Крышу и колокольню перекрыли силами местных жителей, а один из прихожан на веревках поднялся и поправил крест. Отец Владимир полностью обновил ризницу, при его назначении в Тапа было всего два комплекта облачений, а после его перевода в Александро-Невский собор — десять. Скончался протоиерей Владимир Залипский в 1997 году и похоронен на Александро-Невском кладбище в Таллинне.
Различные работы в храме ведутся почти постоянно. Так, в 1997 году московский художник Геннадий Чумыкин расписал потолок. В 2002-2003 годах был выполнен ремонт алтаря, позолочен иконостас, обновлена ризница и реконструирована отопительная система. По просьбе мэрии города спилены старые деревья и проведены озеленительные работы вокруг церкви, а также был отремонтирован небольшой церковный дом в ограде храма.
