Православный приход Сууре-Яани был основан в 1847 году, при приходе действовала церковно-приходская школа в Олуствере и пять вспомогательных школ, в которых в 1891 году училось 155 детей. В 1848 году состав прихода насчитывал 903 прихожанина, в 1891 — 2088, в 1920 — 1650, в 1943 — 1229 человек.
Церковь построена из красного кирпича и освящен в 1908 году. Перед входом в церковь расположен открытый притвор со столбами, а кирпичные стены украшены богатыми рельефами и нишами. Колокльня увенчана шатром, три остальные башни — куполами-луковицами.
Первым приходским священником прихода Сууре-Яани стал Алексей Малов, а первым священником эстонского роисхождения — воспитанник Рижской духовной семинарии Дионисий Вяльбе. К концу периода советской власти количество прихожан значительно сократилось, последнее богослужение в приходе состоялось в день поминовения усопших в 1989 году. Иконостас церкви был перевезён в церковь Марии Магдалены в Хаапсалу. Здание храма с тех пор пустует и постепенно разрушается. В конце первого десятилетия XXI века объединение «Культурное общество Сууре-Яани» приступило к реализации проекта по восстановлению церкви.
