Муслим Магометович Магомаев родился 17 августа 1942 года в Баку, в творческой семье: отец был театральным художником (он погиб на фронте), мать – драматическая актриса, дед – Муслим Магомаев, известный азербайджанский композитор, имя которого носит Азербайджанская филармония. Муслим окончил музыкальную школу при Бакинской консерватории по классу фортепиано и композиции, Азербайджанскую консерваторию по классу пения. Первое его выступление состоялось в Баку. Он выступал втайне от семьи, поскольку в семье были против раннего выступления Муслима. Всесоюзная слава пришла к нему после выступления в Кремлёвском Дворце съездов на заключительном концерте фестиваля азербайджанского искусства в 1962 году. Его первый сольный концерт прошел 10 ноября 1963 года в концертном зале имени Чайковского.