С середины XIX века в Харькове появлялись часовни, которые сооружали монастыри и церкви. Их устраивали в оградах храмов, на кладбищах, на городских площадях. У Александровской больницы стояла часовня Александра Невского, построенная архитектором B. C. Покровским в 1869-1870 г.г., на бывшей Пролетарской (Сергиевской) площади находилась Александро-Невская часовня, сооруженная в 1882-1889 г.г. и другие.
В 1885-1886 г.г. в центре Привокзальной площади по проекту архитектора С. И. Загоскина была возведена часовня в знак памяти о безвременно погибшем императоре Александре II. Освящена она была так же — в честь благоверного князя Александра Невского (третья по счёту одноимённого освящения). Часовня сооружена близ улицы Александровской (где указана на плане 1887 г.). Несколько раз она перестраивалась. Существует предположение, что во время реконструкции привокзальной площади часовня даже перемещалась, поскольку на более поздних планах она была расположена в разных местах. Возможно, это просто вызвано несоответствием старых и современных карт (планов) города.
В 1920-х г.г. конную железную дорогу, которая с 1882 г. связывала Привокзальную площадь с центром города, заменили трамваем, и часовню снесли. Точный год утраты часовни неизвестен. В ограниченном количестве сохранились фотографии с её изображением.