Православный приход Пенуя (изначально именуемый Халлисте ) и относящийся к Вильяндискому уезду, в 1851-ом году отделился от прихода Каркси-Нуйя. До завершения строительства пятикупольной церки, возведённой из бута и с оштукатуренными плитняковыми углами в 1873-ем году, богослужения проводились в казармах для военнослужащих. В 1890-ом году число прихожан составляло 1224 человека, а в 1938 — лишь 382. В 1964-ом году приход Пенуя был закрыт по причине малочисленности прихожан и неплатёжеспособности. В церкви был похоронен епископ Николай Лейсман (1862-1947), чья могила в 1979-ом году подверглась варварскому разорению. В том же году его прах был перезахоронен на кладбище в Пенуя.
