Главное достопримечательностью бывшего села Весёловка являлась Введенская церковь, которая находится на улице Пермской,2а. Но 100 лет назад выглядела она, конечно, иначе.
Храм появился здесь по распоряжению Синода. Дело в том, что церковная иерархия и структура немного напоминает светскую. В гражданской жизни Пенза делилась на районы, а в церковной на приходы. Весёловка относился к Введенскому и жители ходили молиться в одноимённый храм на современной улице Куйбышева. Но верующим это было крайне неудобно, т.к. церковь находилась слишком далеко от деревни. И тогда Синод велел построить тут отдельный храм. Проект здания в старинном русском стиле разработал архитектор Алексей Эренберг и первый кирпичик в фундамент церкви заложили 27 июня 1899 года. Кстати говоря, строительство храма сильно затянулось и церковь открылась только в 1906 году. Первый престол освящал епископ Тихон Никаноров, которого позже возвели в сан священномученика. В годы Гражданской войны Тихона повесили по приказу атамана Шкуро на воротах Благовещенского монастыря в Борисоглебске. Местные верующие, между прочим, сильно почитают нашего земляка.
Сталинскую эпоху церковь пережить не смогла. В 30-е годы прошлого века храм закрыли, а затем тут долгое время размещалось зернохранилище. Заново открылась церковь только в 1991 году.