Игорь Эммануилович Грабарь родился 25 марта 1871 года в Будапеште в семье галицко-русинского общественного деятеля Эммануила Грабаря, избранного в конце 1860-х годов депутатом венгерского парламента. Крещён православным священником сербского происхождения, восприемником был Константин Кустодиев, дядя художника Б. М. Кустодиева.
С 1880 по 1882 годы Игорь Грабарь учился в Егорьевской прогимназии и посещал занятия Варвары Житовой, сводной сестры писателя И. С. Тургенева. С 1882 года учился в лицее цесаревича Николая, который окончил в 1889 году с золотой медалью; затем — на юридическом факультете Санкт-Петербургского университета, который окончил в 1893 году.
В отличие от старшего брата, Владимира, ставшего известным юристом, Игорь предпочёл карьеру художника. Ещё в Москве он посещал занятия по рисованию Московского общества любителей художеств; с 1892 года начал заниматься в академической мастерской профессора Павла Чистякова, а в 1894 году поступил в Петербургскую академию художеств, где в 1895 году начал заниматься в мастерской И. Е. Репина. В 1896 году он уехал в Европу и в Мюнхене поступил в частную школу-студию Антона Ашбе. К мюнхенскому периоду творчества относятся такие его работы, как «Дама с собакой» (1899) и «Дама у пианино» (1899).
В 1901 году вернулся в Россию; участвовал в работе творческих объединений «Мир искусства» и «Союз русских художников», на выставках которых экспонировались его пейзажи и натюрморты. В 1903 году он окончательно переехал в Москву. С этого времени Грабарь принимал участие в выставках «Мира искусства» в «Салоне» и «Союзе»; его работы выставлялись и за границей — в Мюнхене, в Париже, в Salon d’Automne, в 1906 году на выставке русского искусства, устроенной С. П. Дягилевым, в Риме на международной выставке в 1909 году и др. В 1910-х годах с И. В. Рыльским и И. В. Жолтовским входил в городское жюри, которое проводило в Москве «конкурсы красоты фасадов» .
Вскоре после переезда в Москву Игорь Грабарь познакомился с художником Николаем Мещериным; неоднократно посещал усадьбу Мещериных Дугино (ныне — посёлок Мещерино в Ленинском районе Московской области).
Помимо создания картин важную роль в жизни художника занимала исследовательская и просветительская работа. И. Э. Грабарь много писал об искусстве в журналах — в «Мире искусства», «Весах», «Старых годах», «Аполлоне», «Ниве» и др.
В начале 1913 года московская городская дума избрала Грабаря попечителем Третьяковской галереи — он оставался на этой должности вплоть до 1925 года.
Грабарь был ключевой фигурой художественной жизни советской России. Он дружил с женой Льва Троцкого Натальей Седовой, с которой познакомился во время совместной работы в музейном отделе Наркомпроса. В самом начале сталинских чисток Грабарь ушёл со всех своих ответственных постов и возвратился к живописи. Он написал портрет девочки по имени Светлана, который вдруг стал невероятно популярен.
Кроме того, Грабарь в 1918—1930 годах руководил Центральными реставрационными мастерскими в Москве, инициатором создания которых был. С 1921 года он — профессор Московского государственного университета, где читал курс лекций по теории и практике научной реставрации на отделении искусств. С 1944 года работал научным руководителем мастерских и возглавил многочисленные комиссии, занимавшиеся изъятием, что чаще было формой спасения от неизбежного уничтожения, картин из усадеб и икон из монастырей. Принимал непосредственное участие в реставрации иконы Андрея Рублёва «Троица». Современный Всероссийский художественный научно-реставрационный центр, выросший из созданных Грабарём Центральных реставрационных мастерских, носит его имя.
Был консультантом Ученого совета по реставрационным работам в Троице-Сергиевой лавре, научным руководителем и главным архитектором которых был назначен Игнатий Трофимов. С 1944 года директор Института истории искусств АН СССР.
В начале 1943 года Грабарь выдвинул идею компенсации потерь советских музеев за счет конфискации произведений из музеев Германии и её союзников. Он возглавил Бюро экспертов, которое составляло списки лучших произведений из музеев Европы, готовил «трофейные бригады», отправлявшиеся на фронт, и принимал эшелоны с произведениями искусства.
Умер 16 мая 1960 года. Похоронен в Москве на Новодевичьем кладбище (участок № 8).