В Тифлисе
Муравьёв приехал в Тифлис 1 марта. Приезд его произвел общее смущение, однако не столько видом и толками, сколько известием о кончине императора Николая I, печальным вестником коего явился сам Муравьёв, узнавший о том от фельдъегеря незадолго до въезда в Тифлис. На первом приеме Муравьёв произвел на представлявшихся приятное впечатление своими остроумными разговорами и замечаниями, но вскоре не сошёлся со своим начальником штаба князем А. И. Барятинским, покинувшим Кавказ под предлогом болезни. Вступив в командование корпусом, Муравьёв отдал приказ, в котором самым лестным образом отзывался о войсках, на подвиги коих «более полвека с гордостью и изумлением Россия внимает», и призывал их стать полными «рвения и готовности за святое дело» в наступившую для России годину испытаний.
Под Карсом
Штурм Карса в 1855 году
В начале июня 1855 г. русская армия двинулась к Карсу. В составе отряда для действий против крепости было всего 21200 пехоты, 3000 регулярной кавалерии и столько же казаков, 400 грузинской и армянской милиции, артиллерийский парк состоял из 88 орудий (в основной массе лёгких). Гарнизон Карса состоял, по разным оценкам от 19000 до 33000 человек под командованием Вассифа-паши, там же была группа британских военных советников во главе с полковником Уильямсом; близ Баязета находилось около 12000 человек под начальством Вели-паши, в Эрзеруме 11—12000 человек.
На военном совете всех генералов отряда было принято решение не штурмовать крепость с ходу, а начать систематическое обложение подступов и полностью перекрыть пути сообщения с Эрзерумом. Инициаторами этого решения выступили В. О. Бебутов и Я. П. Бакланов. Периметр обложения составил 50 вёрст, но сам характер местности не позволял прикрыть все возможные пути в Карс. В труднодоступных местах были расположены наблюдательные казачьи посты. Уже в самом начале осады Баклановым 18 августа был разгромлен сильный отряд турецких фуражиров, 20 августа отрядом графа Нирода был разбит ещё один фуражирский отряд, наконец 22 августа была пресечена попытка гарнизона прорвать блокаду. В конце августа из Эрезерума было отправлено подкрепление Карсскому гарнизону под командованием Али-паши, общим числом 2500 конницы и несколько сотен пехоты; Муравьев, оперативно выслал навстречу туркам отряд генерала Ковалевского в составе 7 батальонов пехоты, 1800 кавалерии и 20 орудий. 31 августа у селения Пеняк Ковалевский встретил Али-пашу, причем из Карса к Пеняку сумел прорваться небольшой турецкий отряд, также принявший участие в бою. Турки потерпели поражение, сам Али-паша попал в плен.
Полное обложение Карса русскими войсками завершилось к концу июля. В начале сентября между Муравьёвым и Баклановым начались серьёзные разногласия. Муравьёв был настроен начинать штурм крепости, Бакланов был категорически против, утверждая что разведка крепостных укреплений проведена неудовлетворительно, в имеющихся картах есть многочисленные ошибки и неточности. На этом основании Бакланов утверждал что при штурме русские войска понесут неоправданно высокие потери при полной неопределённости исхода штурма. Однако Муравьёва переубедить не удалось. Штурм был назначен на раннее утро 17 сентября. Накануне выяснилось что турки откуда-то узнали о русских планах и готовы отразить штурмующих. Бакланов сделал последнюю попытку переубедить Муравьёва, тот был непреклонен. Штурмующие колонны были встречены сильнейшим артиллерийским огнём, тем не менее генералам Базину и Бакланову удалось один за другим взять три редута, им оставалось взять лишь форт Вели-Табия. Оба генерала тщетно просили у Муравьёва подкреплений, но тот выл вынужден бросить весь резерв на выручку колонны генерала Майделя, гибнущей под фортом Шорах. Севернее Шораха, у Чахмахских укреплений, огромные потери понесла колонна генерала Ковалевского, сам Ковалевский был убит. Муравьёв был вынужден скомандовать общее отступление. По официальным данным потери убитыми и ранеными среди русских войск составили 4 генерала (1 убит), 250 офицеров (74 убито) и более 7000 нижних чинов (убито около 2300 человек). Потери обороняющихся исчисляются в 1400 человек убитыми и ранеными.
На следующий день после неудачного штурма на военном совете было принято предложение Бакланова брать Карс измором. Несмотря на крайне уязвлённое самолюбие, Муравьев примирился с Баклановым, хотя нрав у обоих был весьма тяжёлым и неуживчивым, да и сам Бакланов никак не мог заставить себя соблюдать субординацию. К чести Муравьёва, он не упал духом и твёрдой рукой продолжал руководить осадным корпусом.
Из грузинских, армянских и азербайджанских добровольцев был организован большой партизанский отряд под командованием М. Т. Лорис-Меликова, действующий на дальних коммуникациях турок и пресекающий попытки доставить продовольствие осаждённым. В крепости начался голод, жители разбегались по окрестностям, началось дезертирство. Русские войска не препятствовали выходу из крепости безоружных, но жёстко пресекали любые попытки обратного проникновения. 12 ноября начались переговоры о сдаче, 14 ноября 1855 г. карсский командующий Вассиф-паша подписал полную капитуляцию крепости. Муравьёв был 4 декабря 1855 награждён орденом св. Георгия 2-й степени № 97
« За взятие крепости Карса 16-го ноября 1855 г. »
и удостоен приставки к фамилии «Карсский».
22 июля 1856 г. Муравьёв был уволен от занимаемой должности с назначением членом Государственного совета, 9 декабря 1858 г. Муравьёв был назначен председателем Генерального военного суда над лицами, виновными в беспорядках и злоупотреблениях по снабжению войск бывших Крымской и Южной армий предметами довольствия. 9 июня 1859 г. Муравьёв был уволен в бессрочный отпуск с сохранением содержания «до излечения болезни».