他的家乡流行唱黄梅戏，他小时候是浸润在黄梅戏的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年黄梅戏音乐，学会了作曲。他说自己对黄梅戏的熟悉程度和喜爱程度都远远超过了庐剧，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为黄梅戏艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为黄梅戲留一个种子。”但这个种子却没有机会发芽、开花、结果。省艺校直到1993年才招了一个庐剧班，这中间30多年徐代泉一直学无所用，没办法他只好下决心转向黄梅戲。但庐剧音乐与黄梅戲音乐是根本不同的，为了尽早掌握这个剧种，徐代泉采取了一笨办法——与黄梅戲表演班的学生一起上唱腔课。老师上课时，他一面听，一面记谱。由于功夫下得大，他比十几岁的孩子学得还快，到后来艺校的 黄梅戲教学曲目基本上都是由他来写。

这一行干起来是既苦且难的。苦是在熬人，不仅因为创作充满挑战，更因为生活条件艰苦；难则难在从事戏曲音乐要学习的事情太多。而从事戏曲音乐的人往往免不了与清贫和寂寞为伍，与许多作曲家一样，在创作过程中全身心地投入。一旦找不到感觉，就会连着七八天一个音符也写不出来，那时候状态真是坐亦想、走亦想、醒亦想、梦亦想，有时候甚至会因悲伤而流泪。

徐代泉说自己一生做过三项工作，一是教学，是他的本职工作，不仅在本校代课，还曾任中国戏曲学院客座教授；二是创作，上述提及的是其部分作品，如电视剧和舞台剧，以及教材中的各种歌谣；三是研究。他曾担任国家重点科研项目之一《中国戲曲音樂集成·安徽卷》副主編，并主持编纂“泗州戲”、“安慶弹腔”等篇章，为此获得“编纂成果二等奖”。

谈及安徽的地道黃梅劇音樂電視劇，有几个名字不能不提起，如《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘张玉良》以及《祝福》，这些都是著名作曲家的杰出之作。这位65岁高龄仍旧活跃于舞台上的老先生现在还担任着中国戲曲學院與安徽大學藝術學院客座教授一职，无论是在教育还是艺术方面，都以其丰富经验和卓越才能影响着新的一代。在退休之后，即使离开正规机构，但对于传承这门古老而神奇的事业，对于培养新的力量，他依然保持着热忱与责任感，让自己的生命继续回响于那些永恒的声音里。