В основе здания музея — одно из старейших сохранившихся зданий Екатеринбурга, построенное в 1730-х — начале 1740-х годов как госпиталь Екатеринбургского железоделательного завода, впоследствии неоднократно меняло своё предназначение и перестраивалось. Изначально состояло из четырёх корпусов, сблокированных по периметру внутреннего двора — в северо-восточной части размещался госпиталь, в северо-западной монетная экспедиция, в южной части — аптека, в юго-западной — пробирная лаборатория и меховая, тут же был заводской острог. Внесено в перечень объектов культурного наследия Свердловской области как здание, где состоялось первое в Екатеринбурге театрализованное представление. Здесь 5 ноября 1843 года группа казанского антрепренёра П. А. Соколова представила оперу «Женщина-лунатик» и водевиль «Ножка» — что стало началом театральной истории города и считается датой основания первого Городского театра. На протяжении XIX века здание неоднократно перестаивалось. В 1867 году здесь была устроена Александровская городская богадельня, после чего на западном корпусе был надстроен второй этаж, в 1895—1898 годах внутри здания построена Николаевская домовая церковь на средства купчихи Д. И. Лагутяевой, в 1899 году с разрешения городского архитектора Ю. Дютеля над церковью возвели звонницу, которые до настоящего времени не сохранились.
В 1970-х годах во время реконструкции «Плотинки» здание было решено сохранить, в то время как большинство корпусов бывшего Екатеринбургского завода было снесено и на их месте был разбит Исторический сквер. В конце 1970-х годов возникла идея реконструкции и переоборудования его под музейное помещение. Проект был разработан группой архитекторов во главе с Г. Белянкиным и А. Пташником. В 1985-м году ремонтные работы были завершены, 9 мая 1986 года музейное здание было введено в эксплуатацию. Внутренний двор был перекрыт легкой кровлей. Образовавшийся проем, выходящий на набережную, огражден стеклянной стеной. Новый просторный зал вместил в себя коллекцию уральского чугунного литья, центром которой является уникальный Каслинский чугунный павильон.
Второе здание Екатеринбургского музея изобразительных искусств, расположенное по адресу ул. Вайнера, 11, было возведено в 1912 году по проекту архитектора К. Т. Бабыкина, когда оптовый торговец мануфактурой, екатеринбургский купец первой гильдии Бардыгин решил открыть собственный магазин. В этом здании в 1936 году были развернуты первые экспозиции вновь образованной Свердловской картинной галереи. В 1988 году Свердловская картинная галерея получила статус музея изобразительных искусств. В этом здании музея экспонировались коллекции произведений русского художественного авангарда 1910—1920-х годов, отечественного искусства 1920—1950-х годов, и более позднего периода — 1960-х годов и до наших дней. В большом выставочном зале проходили временные выставки. После завершения работ по реконструкции здания в 2020 году здесь планировалось открытие центра «Эрмитаж-Урал», перенесённое сперва на апрель 2021 года, а затем — на конец первого полугодия 2021 года.
Свердловская картинная галерея была основана в 1936 году, в 1988 году переименована в Свердловский музей изобразительных искусств, а в 1992 году, с возвращением городу его исторического названия — в Екатеринбургский музей изобразительных искусств. Основу музейной коллекции составило собрание Уральского общества любителей естествознания (УОЛЕ). До 1936 года эта коллекция находилась в составе Естественноисторического краеведческого музея, затем была передана в Свердловскую картинную галерею.
В годы Великой Отечественной войны в здании Свердловской картинной галереи хранились эвакуированные из Ленинграда сокровища Государственного Эрмитажа, сотрудники которого оказали большое влияние на формирование свердловской коллекции, научную деятельность галереи и культурную жизнь города.
В дальнейшем в коллекцию музея были переданы работы из Государственного Эрмитажа, Третьяковской галереи, Государственного музея имени Пушкина.
К середине 1980-х годов с ростом музейного собрания возникла необходимость увеличения фондовых и экспозиционных площадей, которые смогли бы удовлетворять потребности хранения и экспонирования коллекций. В связи с этим в 1986 году часть экспозиции была перенесена во вновь реконструированное здание бывшего госпиталя Екатеринбургского железоделательного завода, ул. Воеводина, 5. Каслинский чугунный павильон был демонтирован, перенесен в новое помещение и отреставрирован.
В 1988 году Свердловская картинная галерея получила статус музея изобразительных искусств. Вновь организованные отделы русской живописи, декоративно-прикладного искусства, отечественного искусства XX века начали целенаправленную деятельность по комплектованию собрания. Это был период наиболее активной научной и издательской деятельности музея, который приобрел широкую известность и контакты с научными и музейными центрами России и зарубежных стран.
В 2008 году при музее совместно с Российским центром музейной педагогики и детского творчества Русского музея был создан Региональный Центр музейной педагогики и творческого развития детей и юношества. Одним из приоритетных направлений деятельности Центра является развитие взаимосвязи музея с системой школьного образования и реализация совместных музейно-педагогических проектов и программ.
С 2011 года музеем реализуется крупнейший на Урале художественный проект — Международный фестиваль меццо-тинто, проводящийся по принципу биеннале и объединяющий художников из более чем сорока стран, работающих в этой сложной технике графики.
В сентябре 2014 года директор Государственного Эрмитажа Михаил Пиотровский, губернатор Свердловской области Евгений Куйвашев и глава администрации Екатеринбурга Александр Якоб подписали соглашение о создании культурно-просветительского центра «Эрмитаж-Урал», открытие центра запланировано на 2020 году.
В 2015 году известный собиратель, Глава города Екатеринбурга Евгений Ройзман передал в дар музею свою коллекцию наивного искусства, инициировав тем самым организацию нового подразделения – «Музей наивного искусства». Открытие музея по адресу ул. Розы Люксембург, 18 состоялось в ноябре 2017 года.
