Монастырь основан царём Иваном Грозным 15 октября 1552 года после взятия города. Строился на том месте, где стояла царская палатка и походная церковь и где были похоронены русские воины, убитые под стенами Казани. В 1559 году разлив Волги подмыл и разрушил монастырские стены, после чего монастырь был перенесён на вершину горы. Монастырь окружён каменной стеной. «Неофициальное» название монастыря «Зилантов» имеет отношение к названию горы, на которой, согласно преданию, обитало мифическое существо, крылатый змей Зилант.
Основание монастыря связывается также с захоронением на этом месте «первого святого мученика Христова в земле Казанской просиявшего», Иоанна Казанского.
Основной ансамбль монастыря сложился в XVII веке. В нём находились Успенский собор 1625 года, храм во имя Алексия Митрополита 1720 года, жилые и хозяйственные постройки. В 1640—1642 годах в монастыре жил в ссылке суздальский епископ Иосиф, сосланный по обвинению в ереси.
В 1732—1740 годах в монастыре находилась Казанская духовная семинария, а с 1740 года, Новокрещенская школа. Позже оба учебных заведения перешли в собственные здания. В 1829—1850 годах настоятелем монастыря был архимандрит Гавриил, автор первой в России многотомной истории философии.
В 1918 году десять монахов Зилантова монастыря во главе с архимандритом были расстреляны без суда и следствия по неясному обвинению в обстреле красногвардейцев. Некоторое время монастырь был бездействующим, но вскоре на его основе была образована православная община. Община просуществовала до 1928 года, а затем была ликвидирована. В советское время ансамбль на Зилантовой горе был почти стерт с лица земли. Кладбище монастыря, имевшее погребения именитых граждан, уничтожено в 1930-е годы.
В 1998 году бывший мужской монастырь был возрожден как женский. От старого монастыря сохранились только Всехсвятская церковь 1681 года, основательно перестроенная в 1890-е годы, и настоятельский корпус начала XIX века. Прочие строения монастыря появились в последние десятилетия. Среди них и освящённый в 2006 году Троицкий собор, точная копия одноименного собора Троице-Сергиевой лавры.