Исторически колония Бальцер была лютеранско-реформатской. Сначала она относилось к евангелическому приходу Мессер, затем в 1856 году был образован самостоятельный приход. Первую деревянную церковь возвели в 1777 году, после чего здание отстраивалась заново в 1821 году, также сохранилась информация, что храм был освящён в 1839 году. Хорошо всем известное по старым фотографиям здание было построено в 1849–1851 годах. Просторная каменная кирха в стиле контор с колоннами и колокольней, рассчитанная на 1350 мест, располагалась в центре села, при ней работали приходская школа и пасторат. При советской власти храм был закрыт, сегодня на его месте располагается кинотеатр «Победа».
Православная церковь в Красноармейске появилась после развала СССР. 2 мая 1993 года иерейским чином в приспособленном старом кирпичном доме на улице Кирова был освящён храм во имя святых первоверховных апостолов Петра и Павла. При церкви также была открыта воскресная школа для детей. 12 июля 2004 года Преосвященнейший епископ Лонгин совершил Чин основания нового храма. Во время строительства просторного храмового здания с колокольней богослужения продолжаются в старом здании.
