Казанский Богородичный мужской монастырь был основан и построен в XVII веке с южной стороны города Тамбова старцем Иосифом. В 1679 году братии монастыря были пожалованы в дар мельницы на реках Студенец и Цна в районе села Донское. В монастырской собственности находились земли Троицкой Дубравы, Троицкого Караула, хутор Трёх Лощин, берег реки Кариан и земли близ села Татаново.

Из-за пожаров, которые часто возникали в городе Тамбове, архитектурный облик монастыря неоднократно менялся. Значительное его переустройство произошло в середине XVIII века.

По благословению епископа Тамбовского Пахомия (1758-1766 гг.) на территории Казанской обители стала располагаться архиерейская резиденция. Новый деревянный архиерейский дом, консистория, баня, конюшенный двор, хозяйственные службы были выстроены рядом с братским корпусом и храмом.

Каменное строительство зданий и храмов Казанского мужского монастыря датируется последним десятилетием XVIII века.

Много трудов по строительству и благоустройству Казанской обители положили епископ Феофил (Раев), управлявший Тамбовской епархией в 1788-1811 гг. По его поручению были возведены два каменных храма, сохранившиеся до наших дней, — Казанский и Иоанно-Предтеченский. Возводил храмы бывший Саровский послушник Нафанаил. В историю строительства монастыря вошли имена протоиерея С. А. Березнеговского, архитектора по образованию, и инженера-архитектора А. С. Четверикова. Здания монастыря выстроены в духе классицизма, господствовавшего в то время в русской архитектуре.

Летняя соборная церковь в честь Казанской иконы Божией Матери была заложена в 1791 году. Освящена в 1796 году епископом Тамбовским и Шацким Феофилом (Раевым). Архитектурный облик этого храма полностью повторяет облик ныне не сохранившегося Успенского собора Саровской пустыни, которая в то время относилась к Тамбовской епархии. Знаменательным является то, что в 1793 году в Казанском монастыре Преосвященным Феофилом во иеромонахи был рукоположен преподобный Серафим Саровский. Преставившийся о Бозе епископ Феофил (Раев) был погребен у южной стены внутри Казанского собора. Там же возведена памятная плита, эпитафия на которой гласит:

«Ты зришь, кто здесь лежит?
Феофил грешный здесь,
Кой в беззакониях провел живот
свой весь.
За сии здания, он прахом здесь
покрыт.
Хвалу и язву слов снося от всех,
молчит,
Но молит всех о том, да всяк
Христу речет:
«Причти дух грешника в избранный лик и свет».

С конца XVIII века на территории монастыря стал складываться некрополь. Здесь, под сенью монастырских храмов, нашли свое упокоение многие известные представители Тамбовского края: духовенство, военачальники, меценаты, ученые.

Вторая монастырская церковь во имя Иоанна Предтечи — зимняя — заложена в 1794 году, но строительство ее протянулось до 1821 года. Многоярусная колокольня монастыря, отстроенная в 1848 году, до наших дней не сохранилась.

Уже в конце XVIII века монастырь был окружен каменной стеной с металлическими решетками. Строительство стены полностью завершилось к началу XIX века. В начале XX столетия в юго-западную часть монастырской стены включалось двухэтажное здание консистории, а также архиерейский дом, братский корпус, здание архива.

Казанский мужской монастырь был закрыт 19 октября 1918 года «в связи с фактом выступлений против советской власти при вспышке контрреволюционного мятежа в Тамбове». Во время гражданской войны после Антоновского крестьянского восстания в Казанском монастыре советской властью был устроен лагерь, в котором велись допросы и расстрелы участников восстания. В это же время под предлогом обветшания сооружения была разрушена величественная колокольня. Кирпичи и щебень были использованы на строительство клуба в пригороде (ныне город Котовск), а колокола как памятники истории и культуры переданы Главнауке. Более 50 лет монастырь находился в полуразрушенном состоянии.

Возрождение Казанского мужского монастыря началось 22 декабря 1992 года при архиепископе Евгении (Ждане). В 1993 году в Казанском монастыре города Тамбова Святейший Патриарх Московский и всея Руси Алексий II освятил часовню, воздвигнутую в память погибших в годы гражданской войны.

В 2003 году в монастыре епископом Тамбовским и Мичуринским Феодосием была освящена часовня, воздвигнутая над могилой архиепископа Нижегородского и Арзамасского Евгения (Ждана) (+ 11 октября 2002 года), много потрудившегося на ниве духовного возрождения Тамбовской епархии.

С 2002 года священно-архимандритом монастыря является Преосвященнейший Феодосий, епископ Тамбовский и Мичуринский. 28 марта 2004 года впервые за последние 85 лет в обители епископом Феодосием был совершен постриг трех насельников монастыря. Монастырь имеет свое небольшое подсобное хозяйство в селе Воронцовка.