Николаевская астрономическая обсерватория основана в 1821 г. адмиралом Алексеем Самуиловичем Грейгом (1775-1845) в качестве морской обсерватории с целью обеспечения Черноморского флота временем, мореходными картами и обучения морских офицеров астрономическим методам ориентирования.
Местом для строительства обсерватории была выбрана вершина Спасского кургана — самый высокий холм г. Николаева (52м), а автором проекта главного здания был главный архитектор Черноморского адмиралтейства Федор Иванович Вунш (1770-1836).
По рекомендации Василия Яковлевича Струве на пост первого директора был назначен Карл Христофорович Кнорре (1801-1883), которому тогда еще не было и 20 лет. Наряду с деятельностью по подготовке морских офицеров он начал заниматься научными астрономическими исследованиями и известен в истории астрономии как автор 5-го листа звездной карты Берлинской академии наук, при помощи которого потом были открыты малые планеты Астрея и Флора. К. Кнорре пробыл на посту директора Обсерватории 50 лет. Астрономические исследования в Обсерватории были продолжены вторым директором Иваном Егоровичем Кортацци (1837-1903), которым был получен каталог положений звезд, впоследствие названный “Николаевская зона”. В морской период деятельности обсерватории К.Х. Кнорре и И.Е. Кортацци были выполнены гидрографические работы на Азовском, Черном и Мраморном морях, проведены описи и определены более точные географические координаты многих опорных пунктов карт указанных морей. Флот был снабжен точными инструментами и совершенными методами определения времени (долготы) и широты.
До 1911 года обсерватория находилась в Морском министерстве, а с 1912 по 1991 год НАО – южное отделение Пулковской обсерватории. Главной задачей обсерватории в этот период являлось распространение системы Пулковских абсолютных звездных каталогов на южное небо и выполнение регулярных наблюдений Солнца и тел Солнечной системы.
Для оснащения нового отделения из Одессы были перевезены Вертикальный круг Репсольда и пассажный инструмент Фрейберга-Кондратьева. В период величайших потрясений в жизни нашего общества: первая мировая война, революции, а затем гражданская война, которые обсерватории удалось пережить и сохраниться как научное учреждение, ее директором был Борис Павлович Остащенко-Кудрявцев (1879-1956). Возрождение обсерватории после тяжелых испытаний связано с именем четвертого директора Леонида Ивановича Семенова (1878-1965), который возглавил обсерваторию в 1923 году. В 1931 году в НАО была создана высокоточная Служба времени, которая принимала участие в национальных и международных программах по определению точного времени, а в 1935 году обсерватория была включена в систему учреждений Академии наук СССР в качестве Пулковского отделения.
В годы Великой Отечественной войны с августа 1941 по март 1944 года обсерватория находилась в зоне немецкой оккупации. Директору Л.И. Семенову удалось сохранить ее от серьезных повреждений и разрушений.
В годы послевоенного возрождения директором обсерватории (в 1951 году) назначается Яков Ефимович Гордон (1912-1978).
В 1955 году в Николаев из Пулкова был перевезен Меридианный круг Репсольда, на котором после восстановления и ряда модернизаций в течение 40 лет велись различные наблюдательные программы. В 1961 году после ввода в строй перевезенного также из Пулкова зонного астрографа фирмы «Карл Цейс» в НАО началась история фотографической астрометрии. Николаевские фотографические наблюдения тел Солнечной системы находятся в числе одних из самых точных в мире. В 1957-1969 годах проводились визуальные и фотографические наблюдения ИСЗ для определения их орбит. А в 70-80-е годы обсерватория была инициатором и основным исполнителем нескольких научных экспедиций для наблюдений в условиях полярной ночи на острове Западный Шпицберген и в условиях высокогорья на Кавказе. В общей сложности в НАО было создано около 35 разных каталогов положений небесных светил. В 1978 году директором обсерватории стала Римма Тимофеевна Федорова (1934 г.р.), которую в 1986 году сменил на этом посту Геннадий Иванович Пинигин (1943 г.р.)
В 1992 году Николаевская астрономическая обсерватория обрела статус самостоятельного научного учреждения, а в 2002 году получила официальный статус научно-исследовательского института. Сохраняя свои научные традиции, НАО расширила тематику исследований в область астрономического приборостроения и исследования околоземного пространства. В 1995 году в НАО создан и введен в действие автоматический телескоп с ПЗС приемником Аксиальный меридианный круг (АМК), который в 1999 году включен в список объектов, составляющих национальное достояние Украины. После модернизации и оснащения ПЗС приемником зонный астрограф был переименован в Мультиканальный телескоп (МКТ).
В 2004 году был введен в эксплуатацию Скоростной автоматический комплекс (САК), на котором ведутся регулярные наблюдения объектов ближнего космоса в рамках участия в выполнении Национальной космической программы Украины по контролю и анализу космической обстановки. В 2009 году создан первый в Украине мобильный телескоп «Мобител», состоящий из четырех самостоятельных монтировок, оснащенных современными ПЗС камерами и системой программного управления в режиме удаленного доступа.
Русский адмирал Алексей Самуилович Грейг прожил сложную и долгую жизнь, богатую, как успехами, так и огорчениями. Шотландец по происхождению, он вырос и сформировался как моряк, инженер и ученый именно в России. Он говорил, что считает себя ее сыном и трудится во имя усиления могущества государства Российского. Один из историков русского флота справедливо заметил о нем: «… родом англичанин, но по принесенной России и русскому флоту пользе, более русский, чем многие россияне». Современники адмирала отмечали высокие человеческие достоинства Грейга – душевность, честность, заботливое внимание к каждому, кто обращался к нему, дружелюбие в отношении со всеми. В повседневной жизни Алексей Самуилович был скромным и непритязательным человеком. В свободное время он занимался музыкой и садоводством, играл на четырех музыкальных инструментах и разводил в оранжерее экзотические растения и цветы. Уважение, которым он пользовался среди коллег и сослуживцев, отразилось в географических названиях, запечатлевшихся на карте мира. Служившие под командованием Грейга мореплаватели Беллинсгаузен и Станюкович нарекли его именем открытые ими объекты – остров Грейга в Тихом океане и мыс Грейга в Беринговом море.