Основан на территории бывшего Малого острога Мценской крепости (см. Петропавловская церковь). Он считался одним из древнейших монастырей на Орловщине и по преданию был основан в XII веке, хотя наиболее вероятным временем его основания является начало XVI в., когда г. Мценск вошел в состав Московского государства (1500 г.). Первоначально носил название Петровского.
В 1694 г. Петровский монастырь был переведен на новое место, ниже по течению Зуши, где продолжил свое существование под названием Петропавловского.

Строительство Петропавловского монастыря на новом месте — землях, пожалованных дворянами Протасовыми (современный район железнодорожного вокзала) — началось с закладки в 1695 г. игуменом Германом кирпичного Покровского собора с приделом Св. апостолов Петра и Павла, строительство которого велось еще в начале XVIII в. Стараниями монастырских вкладчиков и монашествующих обитель к середине XVIII в. отстроилась и приобрела весьма благоустроенный вид. Согласно описи 1764 г. на ее территории находились две церкви — соборная Покровская и деревянная Сретения Господня над Святыми воротами, а также две настоятельских и семь братских келий, хлебня, “магазейна” (склад) и погреб. Обитель окружала прямоугольная в плане кирпичная ограда длиной 175 сажен (ок.350 м) с башнями и воротами, сооруженная стараниями игуменьи мценского Вознесенского монастыря Анфисы и игумена Феодула. Вне ограды находились сад, два огорода и хозяйственный двор. Монастырю принадлежала также деревня Игумнова Слободка с 74 крестьянами.

При обители действовали две школы, где словесной, письменной и нотной грамоте “на своем коште” (содержании) обучался 151 мальчик. Это было одно из первых учебных заведений в орловской провинции. Несмотря на то, что официально богадельни при монастыре не имелось, здесь содержались двое увечных солдат, участников войн с Турцией и Пруссией. В 1764 г. земельные владения Петропавловского монастыря были конфискованы, а сам он выведен за штат. Заштатной обитель оставалась вплоть до 1819г. В этом году архиерейскую кафедру перевели из Севска в Орел, определив резиденцией епископов Орловских и Севских Успенский мужской монастырь в Орле, преобразованный в Архиерейский дом. Братию же и имущество Успенского монастыря перевели в Мценск в Петропавловский монастырь, который был причислен к штатным с возведением его в третий класс и присвоением настоятелям сана архимандритов.

В конце XVIII — перв. пол. XIX вв. в обители велось о6ширное строительство, совершенно изменившее ее облик. Были возведены кирпичная Знаменская церковь над Святыми воротами (1813-1821), огромная колокольня (1807), обновлены или перестроены почти все постройки монастыря, переложена монастырская ограда. Подвергся переделкам и древний Покровский собор. Внутри его расписали живописью, заново изготовили иконостасы, а на месте снесенной старой соборной колокольни в 1809 г. на средства помещика Я. П. Протасова устроили обширную паперть с ризницей и библиотекой. Уже в XVIII в. рядом с собором образовалось кладбище, где хоронили монастырских вкладчиков и наиболее состоятельных и уважаемых граждан города и уезда. Здесь были захоронены Протасовы, Хованские; Меншиковы, Юсуповы и другие, а также многие монахи и игумны. 31 января 1891 г. здесь похоронили генерала Н. А. Белого. В 1839—1846 гг. в Петропавловском монастыре монашествовал иеромонах Мельхиседек, подвижническая деятельность которого послужила основанием для предложения о его канонизации в 1918 г., так и не осуществленного, по-видимому, из-за наступивших для Русской православной церкви тяжелых времен.

Главными монастырскими святынями почитались четыре чудотворные иконы: Христа Спасителя, Толгской Божией Матери, Знамения Курской Божией Матери и Тихвинской Божией Матери. В монастырской библиотеке хранилось рукописное Евангелие, предположительно XV в., Трефологий 1638 г. и Евангелие 1694 г.
Петропавловский монастырь был закрыт в 1923 г. В 30-е годы использовался как тюрьма для раскулаченных крестьян и до нашего времени дошел в сильно разрушенном состоянии. Сохранились Знаменская церковь (без завершений), келейный корпус и остатки ограды. От древнего Покровского собора уцелели лишь алтарные апсиды.
В 2004 году Знаменская церковь передана православной общине. С 18 июля 2004 г. в храме совершаются регулярные богослужения.