Родился 22 декабря 1855 года в Санкт-Петербурге. Его отец, Григорий Григорьевич Гагарин, — известный художник-любитель, обер-гофмейстер двора Его Императорского Величества, вице-президент Императорской Академии художеств. Мать — Софья Андреевна, урождённая Дашкова, фрейлина при дворе императрицы Александры Федоровны, позднее — статс-дама при императрице Марии Федоровне. Крещен 18 января 1856 года в Придворном соборе при восприемстве императрицы Александры Фёдоровны. Начал обучался в частном пансионе, в 1869 году поступил в четвёртый класс Ларинской гимназии, по окончании которой в 1874 году поступил на физико-математический факультет Петербургского университета. По окончании университета служил вольноопределяющимся в гвардейской конной артиллерии, после чего выдержал экзамен на офицерский чин и в 1884 году окончил Михайловскую артиллерийскую академию по первому разряду. 7 января 1900 года по инициативе и представлению министра финансов С. Ю. Витте А. Г. Гагарин был назначен директором создаваемого в то время Петербургского политехнического института. Основные задачи, которые решал вновь назначенный директор на первом этапе своей деятельности, состояли в выработке положения об институте, постановке преподавания и подыскании и подготовке профессорского персонала. Во многом благодаря стараниям директора в институт пришли преподавать известные ученые и педагоги, среди которых были профессора К. П. Боклевский, И. А. Мещерский, А. С. Посников, Н. А. Меншуткин, М. А. Шателен, В. В. Скобельцын, И. М. Гревс, Н. И. Кареев, М. М. Ковалевский, Ю. С. Гамбаров и другие. Умер А. Г. Гагарин 22 декабря 1920 года, в возрасте 65 лет, после сложной операции в Порховской больнице. Похоронен на кладбище Храма Вознесения Господня в дер. Бельское Устье.