वैसे तो फिल्म 'मुग़ल-ए-आज़म' की योजना तो 1945 में ही बननी शुरू हो गई थी, मगर फिल्म जाकर बनी साल 1959 में. वैसे तो के.आसिफ ने पहले फिल्म के लिए गोविंदराम और फिर अनिल विश्वास को संगीतकार के रूप में चुना था, मगर बाद में नौशाद को लेकर ही वो सुनिश्चित हुए. मुगलिया वैभव की पृष्ठभूमि में बनी इस फिल्म के लिए भव्य संगीत की जरूरत थी. दरबारों को प्रचलित शास्त्रीय गायन की शैली के अनुरूप 'प्रेम जोगन' के लिए नौशाद का विचार सुप्रसिद्ध शास्त्रीय गायक बड़े गुलाम अली खां साहब को लेने का था. खान साहब पहले तो फिल्मों के लिए साढ़े तीन मिनट में शास्त्रीय गायक के ख़याल से ही चिढ़ गए और फिर के.आसिफ की सिगरेट पीते रहने की आदत ने उन्हें ज़्यादा नाराज़ कर दिया. पर बड़ी मुश्किल से आसिफ और नौशाद ने 25 हजार पारिश्रमिक का प्रस्ताव देकर उन्हें राजी किया. रिकॉर्डिंग के लिए स्टूडियो को बैठक की शक्ल दी गई. खान साहब ने गमक के साथ गायन शुरू किया, पर आसिफ को थोड़ी कोमल सुर की तलाश थी. इसके लिए खान साहब ने फरमाइश की कि उन्हें फिल्म का सीन दिखाया जाए, तभी वो अनुकूल भाव ला पाएंगे.
बहरहाल, खान साहब सीन देखकर मधुबाला के सौंदर्य पर भी कुछ फ़िदा हो गए और फिर राग सोहनी में 'प्रेम जोगन' को उन्होंने कुछ ऐसा गाया कि इस गीत को इतिहास की एक धरोहर के रूप में स्थापित कर दिया. इससे उत्साहित होकर आसिफ और नौशान ने पुनः 25000/ पारिश्रमिक पर उनसे शास्त्रीय शैली में राग रागेश्री आधारित बधाई गीत 'शुभ दिन आयो राजदुलारा' भी गवाया. हालांकि परिवेश मुगल काल का था, पर नौशाद ने फिल्म में उन्नीसवीं सदी के लखनऊ के नवाब वाजिद अली शाह के दरबारी नर्तक बिंदादीन महाराज की प्रसिद्ध रचना 'मोहे पनघट पर नंदलाल छेड़ गयो रे' के ठुमरी अंग को भी बहुत सुंदर रूपांतर के साथ मधुबाला पर फिल्माया. राग गरा पर आधारित ये रचना इतनी लाजवाब बनी थी कि ना केवल फिल्म के नृत्य निर्देशक लच्छू महाराज ही भाव-विभोर हो गए, बल्कि इस गीत के फिल्मांकन के समय उस समय मुंबई में रह रहे जुल्फ़िकार अली भुट्टो भी मधुबाला के सौंदर्य से खिंचे हुए हर रोज सेट पर मौजूद रहने लगे थे. लच्छू महाराज ने ही ये सलाह दी थी कि इस गीत में कोरस भी होना चाहिए और उनकी सलाह पर ही नौशाद ने इस गीत तो लता से पुनः रिकॉर्ड कराया था और कोरस के लिए अन्य मंगेशकर बहनों का स्वर भी लिया था.
'मुगल-ए-आज़म' का तो पूरा संगीत ही कभी ना भूलने वाला है, चाहे वो राग केदार पर आधारित 'बेकस पे करम कीजिए सरकारे मदीना' या राग जयजयवंती पर आधारित कव्वालीनुमा 'जब रात है ऐसी मतवाली' हो या फिर राग यमन आधारित दुआ के रूप में 'खुदा निगहवान हो तुम्हारा', राग दरबारी पर आधारित पीड़ा को सीधा बयान करते 'मुहब्बत की झूठी कहानी पे रोए' या 'हमें काश तुमसे मुहब्बत न होती' हों। . फ़िल्म का सबसे मशहूर गीत रहा 'प्यार किया तो डरना क्या'. ऐसा बताया जाता है कि उत्तरप्रदेश की एक पुरानी लोक-कहावत 'प्रेम किया क्या चोरी करी' को ही शकील बदायूँनी ने अपने शब्दों में पिरोया. इस गाने में न सिर्फ शीशमहल के बीच मधुबाला के सैकड़ों छवियों को दिखाकर ये अमर बना बल्कि echo effect के साथ चारों तरफ आवाज़ टकराने का असर लाने के लिए नौशाद ने लता मंगेशकर की आवाज़ को अलग-अलग टेक में रिकॉर्ड कर एक साथ मिलाया था.
मोहम्मद रफ़ी की आवाज में 'ऐ मुहब्बत ज़िंदाबाद' को भी फिल्म में लोगों ने पसंद किया. 'मुगल-ए-आज़म' के लिए मुबारक बेगम की आवाज़ में 'हुस्न की बारात चली' और 'मुझ पर ही चले क्यों तीर नज़र' गाने भी रिकॉर्ड किए गए थे लेकिन उन्हें फिल्म में शामिल नहीं किया गया.