تنوّعت مصادر الفنان الراحل في تعلّمه الموسيقي والتي ساهمت في تشكل مشروعه في وقت لاحق، إلا أن المصدر الأول بعد حفظ القرآن الكريم والقراءات السبع ومدارس تجويده أثناء دراسته في الأزهر، تمثّل في تعلّمه في زمن قياسي للموشحات والأدوار التي تضمّنتها الكتب المنشورة، حيث يروي في مذكراته أنه أنهى كتاب "مفرح الجنس اللطيف"؛ من أشهر كتب أصول الغناء آنذاك، وحفظه عن ظهر قلب في ثلاثة أيام.
وجاب زكريا أحمد بعد عام 1916 معظم قرى ونجوع مصر حيث عمل ضمن فرق غنائية تقدّم أعمال عبده الحامولي وسلامة حجازي ومحمد سالم وغيرهم، وكان في زيارته يلتقي المغنيين الشعبيين ويستمع منهم إلى مواويل وأغاني منطقتهم محاولاً فهم الفروق والاختلاف بينه وبين مناطق أخرى، وربما كانت تلك المرحلة الأغنى في حياته ولم تقتصر اهتماماته على الموسيقى بل كان ينقل رسائل من قادة ثورة عام 1919، التي انضم إليها، إلى قواعدهم في الأرياف المصرية، وفق مذكراته أيضاً.
بعد سنوات عديدة تمكّن فيها من درس مرجعيات الغناء الشعبي، بدأ الفنان الشاب مشواره تحذوه رغبة في تجديد التراث بعد تخليصه مما اختلط فيه من قوالب موسيقية غير عربية لا تستقيم مع قواعده، وستكون التجربة الأبرز في هذا السياق تلحينه معظم أغاني فيلم "سلّامة" (1944) الذي جسّدت فيه أم كلثوم دور إحدى أشهر مغنيات العهد الأموي، حين وضع ألحان ثماني مقطوعات منها "غنيلي شوي شوي"، و"قوللي ولا تخبيش يا زين".
لم ينجح أحمد في أداء ما يقدّمه من ألحان بصوته، وتفوّق عليه بذلك محمد عبد الوهاب الذي يجمع بين الغناء والتلحين، وظلّ الأمر كذلك حتى عام 1931 حيث صعد نجم الأخير مع الطقطوقات التي لم يكن يجاريه فيها أحد، ما دفع أم كلثوم التي عرفت أن تنافسها مع موسيقار الأجيال لن يحسمه الصوت الأجمل في تلك الفترة، إنما سيكون القول الفصل في اللحن، فقرّرت التعاون لأول مرة مع الشيخ.
كان هذا التعاون مع طقطوقة "اللي حبك يا هناه" التي فارقت قوالبها الأولى بلحن واحد متكرر عبر تقديمه أربعة ألحان متداخلة، لتحقق نجاحاً كبيراً دفع جميع المنافسين وفي مقدّمتهم عبد الوهاب لمحاكاة هذا القالب الجديد، الأمر الذي تكرّر بعد ذلك في أكثر من مرة في الأربعينيات في أغانٍ أخرى اعتمدت الأدوار قالباً موسيقياً.
كرّس الشيخ مكانته التي لم يسبق فيها غيره، من خلال ما اجترحه من تجديد وتجريب في الثيمات الشعبية سواء في الطقطوقة والدور، وسيكون في ذلك فضل لرفيق دربه الشاعر بيرم التونسي الذي لازمه منذ عشرينيات القرن الماضي حتى رحيلهما في السنة ذاتها تفصل بيهما أيام محدودة، والذي كتب له أبرز ألحانه وغنتها كلّ من فتحية أحمد وليلى مراد وفريد الأطرش، إلى جانب الروائع التي قدّمتها كوكب الشرق.