Члены группы родом иэ городов Беллвилль и Кирни, штат Нью-Джерси, за исключением Боба Брайера, который родом из Чикаго, штат Иллинойс. Название My Chemical Romance позаимствовано у Ирвина Уэлша (Irvine Welsh - Ecstasy: Three Tales of Chemical Romance).
Группа была основана Джерардом Уэйем и бывшим барабанщиком Мэттом Пелиссьером (Matt Pelissier), которые подружились в старших классах школы. Первой песней, которую они написали быпа Skylines and Turnstiles (написана Джерардом после 11 сентября). Вскоре после этого Рэй Торо и Майки Уэй (брат Джерарда) присоединились к группе.
Спустя три месяца после образования My Chemical Romance записали свой дебютный альбом I Brought You My Bullets, You Brought Me Your Love, выпущенный в 2002 году на Eyeball Records. Весь студийный процесс занял у них всего десять дней, с 15 по 25 мая 2002 года. Группу сравнивали с Thursday. Обе группы - выходцы из Нью-Джерси, соседи по лейблу. Кроме того, продюсированием материала для "I Brought You My Bullets You Brought Me Your Love" занимался лид-вокалист Thursday Джофф Рикли (Geoff Rickly).
В 2003 группа подписала контракт с Reprise Records. После тура с Avenged Sevenfold группа начала работу над своим вторым альбомом Three Cheers for Sweet Revenge. Альбом вышел в 2004 и в течение года стал платиновым. С альбома было выпущено три сингла "I'm Not Okay (I Promise)", "Helena" and "The Ghost of You".
После концертов в Японии в августе 2004 Мэтт Пелиссьер был заменен Бобом Брайером. В начале 2005 года, группа приняла участие в туре Taste of Chaos, а также на разогреве у Green Day во время их тура American Idiot. Позже они выступали по стране вместе с Alkaline Trio and Reggie and the Full Effect. В этом же году My Chemical Romance и The Used совместно записали кавер-версию хита Дэвида Боуи и Queen "Under Pressure".
В марте 2006 года был выпущен 2 DVD/1 CD бокс-сет Life on the Murder Scene. В него вошли концертные выступления группы, видеоклипы и видеодневник.
В октябре 2006 года вышел третий альбом My Chemical Romance The Black Parade, который продюсировал Роб Кавалло (Rob Cavallo), известный по работе с Green Day. Альбом дебютировал на 2-м месте в британском хит-параде, уступив новому альбому Робби Уильямса Rudebox и на 2-м месте в хит-параде журнала Billboard The Billboard 200, уступив саундтреку к диснеевскому телевизионному шоу Hanna Montana. В первую неделю в США альбом был продан тиражом 240 000 копий. Первый сингл с этого альбома "Welcome to the Black Parade" возглавлял британский хит-парад две недели.