Старое городское кладбище с 1790 г. расположено на окраине города по берегу реки Ингул и состоит из нескольких частей. Наибольшая часть — православное кладбище, на котором хоронили также католиков и протеcтантов. К северу от него расположено старообрядческое кладбище, а на юг, вдалеке — еврейское, караимское и магометанское кладбища. Ранее еврейское и караимское кладбище было на Песках, но потом его перенесли, и на его месте построили трамвайный парк.
Николаевское городское кладбище было очень зеленым и на нем находилось много прекрасных надгробных памятников и склепов.
В центре кладбища находится церковь Всех Святых. Она сооружена в 1807-1808 гг. «усердием военно-морских чиновников, адмиралтейских служителей, купцов, мещан и разночинцев г. Николаева». Церковь перестроена и расширена в 1858г. на средства бывшего церковного старосты купца 1-й гильдии К.Н. Соболева.
В 1876г. стараниями купца 1-й гильдии И.Ф. Бартенева и при содействии бывшего главного командира Черноморского флота и портов генерал-адъютанта Н.А. Аркаса обнесена чугунною оградой. Церковь — двухпрестольная: во имя Всех Святых и во имя св. Апостола-Евангелиста Иоанна Богослова. В 1876г. на средства Н.А. Аркаса в церковной ограде сооружена двухэтажная часовня для отпевания усопших.
Вблизи церкви находятся несколько могил исторических деятелей. Справа от входа сооружен мраморный надгробный памятник в готическом стиле над фамильным склепом Арка-сов. Здесь похоронены адмирал Н.А. Аркас, генерал З.А. Аркас, их жены, сын Н.А. Аркаса — Н.Н. Аркас, композитор и этнограф. Сюда же в 1936 г., после разорения склепа М.Л. Фалеева, был перенесен его прах.
Cправа же находились могилы членов экипажа героического брига «Меркурий».
Первая из них принадлежит командиру знаменитого брига «Меркурий», флигель-адъютанту, капитану 1 ранга Александру Ивановичу Казарскому, который в 1829 году выдержал с честью бой с двумя турецкими кораблями. Фотографии и описание в календаре позволяют представить первоначальный вид памятника.
Он сделан из черного полированного гранита в виде вертикальной плиты высотой около 3 метров. На лицевой стороне, обращенной к церкви, вверху на круглом медальоне, окруженном лавровым венком, выгравирована надпись: «14 мая 1829г.» — это дата знаменитой морской битвы. Внизу на пьедестале под стеклом — рельефное изображение брига «Меркурий», идущего под всеми парусами. Посредине — лаконичная надпись бронзовыми буквами: «Казарский».
На противоположной стороне памятника вверху — рельефный бронзовый медальон с портретом Казарского, окруженный лавровым венком. Внизу — бронзовый герб Казарского в виде брига и пистолета, который служит эмблемой знаменитого военного совета на борту «Меркурия» , когда было принято решение взорвать бриг вместе с турецкими кораблями. Атрибуты эти пожалованы в герб Казарскому Указом Николая I.
Проект памятника разработан архитектором А.А. Авдеевым, одобрен царем в 1865г. Сооружался силами и средствами Черноморского флота. В несколько поврежденном виде памятник сохранился до настоящего времени. Его спасла от разорения кладбищенская ограда.
Рядом с этим памятником находится могила бывшего штурмана «Меркурия» И,П. Прокофьева, который первым предложил сцепиться с турецким кораблем и взорвать бриг. К сожалению, в настоящее время бывший скромный надгробный памятник снят, и вместо него поставлен помпезный мраморный памятник с ангелом, который узурпировали с чужой могилы и даже не удосужились затереть следы прежней надписи.
Здесь же похоронены другие члены экипажа брига, завещавшие быть преданными земле рядом с их командиром. Однако сейчас эти могилы отсутствуют, а их место залито безликим асфальтом.
Недалеко от церкви находятся склепы братьев Донских, известных в Николаеве заводчиков. Оба памятника представляют громадную пирамиду с крестом наверху. В ближнем к церкви похоронены родители братьев Донских, жена А.Ф. Донского и их дети. А поодаль, в фамильном склепе Л.Ф. Донского похоронен сам Лука Федорович и его потомки. Крест с надгробия Л.Ф. Донского сброшен и валяется разбитый у подножия.
Вдали от церкви находятся еще два интересных памятника. Один из них — склеп профессора В.Н. Каразина, основателя Харьковского университета и человека, выдавшего правительству список декабристов. Каразин приехал в Николаев к сыну, служившему в Черноморском флоте, и здесь заболел и умер. Сейчас в склепе Каразина, расписанном сатанинскими знаками, по ночам сатанисты устраивают свои оргии.
Второй надгробный памятник -это памятник защитникам Севастополя 1853-1855гг., умершим от ран в Николаевском морском госпитале. Такие памятники ставились на братских могилах: в районе Соляных, на городском кладбище и в других местах. Памятник представлял высокую четырехгранную пирамиду, на вершине которой стоял крест, опирающийся на ядро. Подножие памятника выложено пушечными ядрами. С четырех углов памятник окружен пушечными стволами, врытыми в землю, между которыми натянуты якорные цепи. Один из памятников стоял еще перед войной в Соляных. А другой — даже в послевоенное время на кладбище. Детали памятника растащены.
На городском кладбище, особенно в районе церкви, много могил исторических лиц. Но само кладбище представляет удручающее зрелище: все склепы вскрыты и зияют грабительскими лазами, внутри склепов захоронения разгромлены, а останки некоторых выброшены наружу.