История появления первой церкви в селе Кременки, на базе которого родился нынешний город Новоульяновск, уходит своими корнями в 18 век. Известно лишь, что построена она была ранее 1752 года. Церковь была деревянная, с одним престолом во имя Святой Живоначальной Троицы. В 1759 году на средства прихожан был произведен ремонт церкви столь значительный, что в ряде документов 1858-1869 годов, этот год указан как год её построения. В 1848 году село посетил Император Николай I, который подарил церкви богатые подарки: иконостас, ризы, священные сосуды и др. Однако главной достопримечательностью и ценностью церкви считался напрестольный крест серебряный вызолоченный. Надпись на задней стороне креста гласила, что в нём заключены: часть ризы Господней, часть креста Господня, частицы мощи св. Иоанна Предтечи, апостола и евангелиста Луки, св. Федора Тирона, святых Космы и Дамиона, и св. Димитрия Солунского. В 1849 году под деревянный храм был подведен каменный фундамент и построена новая колокольня.
1 февраля 1870 года возник пожар, и церковь сгорела. 9 февраля того же года застучали топоры — община начала строить молитвенный дом, который вскоре был обращен в церковь во имя вмч. Параскевы Пятницы. Впоследствии этот молитвенный дом был пожертвован в с. Кайбелы, на противоположном берегу реки Волги, Ставропольского уезда Самарской губернии. Это село находилось в нынешним Чердаклинском районе, южнее Крестовых городищ, и сейчас затоплено Куйбышевским водохранилищем.
Но это было потом, а пока в Кременках молились в молитвенном доме, а на месте сгоревшего храма на средства прихожан и меценатов строится новая, деревянная, 2-х престольная церковь. Главный престол — во имя святой Живоначальной Троицы был освящен 28 октября 1871 года. Боковой придел во имя святой Параскевы Пятницы — освящен 21 октября 1877 года. К концу 80-х годов вся церковь стала теплой. В 1912 году построен 2-ой левый придел — во имя Преображения Господня, освященный 3 августа 1912 года. Церковь стала 3-х престольной. Через 16 лет, в 1928 году, снова факелом запылал Божий Храм. Пожар начался с колокольни, и многие иконы удалось спасти.
С 1996 года по 2014 год службы проводились в молельном доме села Кременки. Осенью 2002 года, по благословению правящего архиерея архиепископа Прокла, произведена закладка фундамента вновь строящегося храма Святой Живоначальной Троицы. В 2014 году по благословлению Прокла митрополита Симбирского и Новоспасского начались службы во вновь построенном храме г. Новоульяновска.
