Основан около 1670 года старцем Иосифом с южной стороны города Тамбова. В 1679 году братии монастыря были пожалованы в дар мельницы на реках Студенце и Цне в районе села Донского. В монастырской собственности находились земли Троицкой Дубравы, Троицкого Караула, хутор Трёх Лощин, берег реки Кариана и земли близ села Татаново.
Из-за пожаров, которые часто возникали в городе Тамбове, архитектурный облик монастыря неоднократно менялся. Значительное его переустройство произошло в середине XVIII века.
При возобновлении в 1758 году Тамбовской епархии назначенный на неё епископ Пахомий Симанский выбрал Казанскую обитель своей архиерейской резиденцией. Новый деревянный архиерейский дом, духовная консистория, баня, конюшенный двор, хозяйственные службы были выстроены рядом с братским корпусом и храмом.
Каменное строительство зданий и храмов Казанского мужского монастыря датируется последним десятилетием XVIII века.
Много трудов по строительству и благоустройству Казанской обители положили епископ Феофил Раев, управлявший Тамбовской епархией в 1788—1811 годы. По его поручению были возведены два каменных храма, сохранившиеся до наших дней, Казанский и Иоанно-Предтеченский. Возводил храмы бывший саровский послушник Нафанаил. В историю строительства монастыря вошли имена протоиерея С. А. Березнеговского, архитектора по образованию, и инженера-архитектора А. С. Четверикова. Здания монастыря выстроены в духе классицизма, господствовавшего в то время в русской архитектуре.
Казанский монастырь был закрыт 19 октября 1918 года «в связи с фактом выступлений против советской власти при вспышке контрреволюционного мятежа в Тамбове». Во время гражданской войны после Антоновского крестьянского восстания в Казанском монастыре советской властью был устроен лагерь, в котором велись допросы и расстрелы участников восстания. В это же время под предлогом обветшания сооружения была разрушена величественная колокольня. Кирпичи и щебень были использованы на строительство клуба в пригороде, ныне город Котовск, а колокола как памятники истории и культуры переданы Главнауке.
В 1920-х годах здесь размещалась Тамбовская губернская ЧК. В последующие годы был уничтожен некрополь, разрушена колокольня. В Казанской церкви размещался филиал Государственного архива Тамбовской области.
28 июня 1927 года президиум Тамбовского городского исполнительного комитета принял решение «изъять колокола из бывшего Казанского монастыря».
30 августа 1960 года постановлением Совета министров РСФСР № 1327 взят под охрану государства как памятник республиканского значения.
Возрождение обители началось 22 декабря 1992 года.
В августе 2014 года в ходе двухдневного визита в Тамбов Патриарх Московский и всея Руси Кирилл освятил памятник епископу Питириму, основателю Вознесенского монастыря, колокольню Казанского монастыря.
