19 февраля 1874 г. был открыт Мариинский детский приют для подкидышей. В 1889 г. приют перешел в новое роскошное здание, устроенное Керчь-Еникальским градоначальником контр-адмиралом М. Е. Колтовским на собранные им пожертвования. Здесь ежегодно воспитывалось до 40 девочек. При приюте была начальная школа. Внутри заведения была устроена домовая церковь в честь иконы Пресвятой Богородицы «Всех Скорбящих Радосте».
Слева от ворот приюта располагалась часовня, сооруженная в 1895 г. на средства членов попечительства и граждан Керчи. Она была построена в византийском стиле. Крышу часовни венчали 5 позолоченных куполов. В стене, обращенной к приюту, находилась ниша, в которой на мраморном пьедестале стоял бронзовый бюст Государя Императора Александра III. На восточной стороне устроен иконостас из красного дерева с позолотой. Посреди иконостаса — икона Спасителя с Евангелием, открытым на словах: «Блажен и миротворцы, я ко тии сынове Божий нарекутся». Пол часовни был мозаичный.
Церковь закрыли в 1923 г., а часовня была уничтожена в 1928 г. Здание приюта, считавшееся одним из красивейших в Керчи, дополнили в середине XX в. пристройкой. Оно существует и ныне: это теперь здание Югрыбпоиска (ул. Козлова, 6).
