Каменная церковь в Пуски была построена в 1889-1891гг. по типовому проекту и освящена во имя Рождества Христова. По аналогичному проекту(с небольшими видоизменениями) на о.Хийумаа были выстроены церкви в хуторах Куристе и Кури.
Церковь сохранилась, но находится в законсервированном состоянии (внутреннее убранство не сохранилось), поэтому её община совершает Богослужения в др. помещении. Храм находится в юрисдикции Эстонской Апостольской Православной Церкви Константинопольской патриархии.
Старую фотографию её наружного вида (1910-х гг.) можно посмотреть по адресу:https://sobory.ru/mm/040.jpg.
Церковь из бута, с отделкой из жёлтого рижского кирпича, построена по проекту губернского архитектора К. Нимана недалко от деревни Пуски в 1891-ом году. Земля принадлежала Унгерн-Штернбергу, который был противником распространения православия, но при этом не мог не подчинится указу царя передать землю церкви. При этом он выделил церкви участок в практически в ненаселённом месте. В 1891-ом году при церкви было построено каменное здание приходской школы. В 1913-ом году число прихожан насчитывало 1138 человек, к приходу также относилась моленная в Кыпу и деревянная часовня Малвасте, сохранившаяся до наших дней. В советское время деятельность прихода была прекращена в 1952- ом году. Заброшенная церковь стала быстро разрушаться, в 1981-ом году провалился купол колокольни. В начале XXI-го века развалины церкви и приходской школы были законсервированы.