他的家乡流行演绎庐剧，他在童年时期便是深受庐剧音乐影响的成长。1958年，他凭借精通二胡，通过独奏《良宵》考入了安徽省艺术学校。在那里他学习了三年庐剧音乐，并学会了作曲。他自称对庐剧的熟悉程度和喜爱程度远远超过黄梅戏，当初他的同学中有四个人后来只剩下他一个人坚持下来，而其他人都放弃了。然而，在他毕业准备展现才华的时候，学校却决定撤销庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉则被留校从事教学工作。他当时非常不解，以为领导弄错了，但学校领导给出的理由让他心服口服：“我们是要为庐剧留一个种子。”但这个种子没有机会茁壮成长。

直到1993年，省艺校才重新招收了一班庐剧学生，这段时间里徐代泉一直未能将所学应用于实践，最终不得不决定转向黄梅戏。但由于庐剧与黄梅戏之间存在根本差异，为了尽快掌握新领域，徐代泉采用一种笨拙但有效的手段——与黄梅戏表演班的学生一起上唱腔课。他一边听老师授课，一边认真记谱，由于他的功力较深，他比十几岁的孩子们更快地掌握新知识。在后来的岁月里，安徽艺校的大部分黄梅戏教学曲目几乎都是由他编写完成。

这条道路既苦又难。苦的是不断努力而没有立即回报；难的是作为一名戏曲音乐工作者，要面对无数挑战和困难。而且，与许多作曲家一样，徐代泉投入创作工作时总是全身心、全情投入。一旦遇到创作上的瓶颈，他会持续地专注于某个音符或旋律，有时候连续七八天也无法写出满意的作品。那时候，他的心理状态真是“坐亦想、走亦想、醒亦想、梦亦想”，完全沉浸在自己的世界中。当作品完成后，再次聆听那些唱段，那份满足感和陶醉之情也是难以言喻。

徐代泉曾经说过自己的一生分为三大部分：教学工作、创作活动以及研究工作。教学工作始终是他的主要职责，不仅在本校担任教师，还成为中国戲曲音樂學院客座教授，即使退休，也从未真正闲着。创作方面，他不仅参与电视舞台劇音乐制作，还为60多部教材中的歌曲撰写旋律，这些歌曲涵盖多种传统京劇，如黃梅戲、湖北梆子等。此外，在研究领域内，他曾担任国家重点科研项目之一《中國戲曲音樂集成·安徽卷》的副主编，并成功主持编纂“泗州戲”、“安慶弹腔”等篇章获奖。

提及至於安徽黃梅戲電視劇，那麼一個名字無法避免提及，就是為《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘張玉良》、《祝福》（含合作）等十幾部黃梅戲電視劇音樂創作著名的人物——徐代泉今年65歲時仍然活躍於學術界，是近20年的安徽藝術學校與安徽大學藝術學院戲音教研室主任，並現在仍擔任中國戲曲學院與同一學院客座教授。