随兄北伐
桓冲初任鹰扬将军、镇蛮护军、西阳太守。晋穆帝永和十年（354年），桓冲跟随桓温北伐前秦，更在白鹿原击败苻雄。战后因功迁都督南阳、襄阳、新野、义阳、顺阳、雍州之京兆及扬州之义成七郡军事、宁朔将军、义成新野二郡太守，镇襄阳。永和十二年（356年），桓冲再随桓温北伐，最终姚襄兵败逃走，据有洛阳的周成投降，收复洛阳。桓冲因功进号征虏将军，于穆帝升平四年（360年）赐爵丰城公。
出镇江州
不久，桓冲迁振威将军、江州刺史、领镇蛮护军、西阳、谯二郡太守。然而在晋哀帝兴宁元年（363年），原本在桓温北伐时投降的姚襄旧将张骏趁桓冲在江陵而未到江州上任，率众杀害江州督护赵毗，更抢掠焚毁武昌的官库，然后北归。桓冲则派将领讨平张骏，并到江州上任。兴宁三年（365年），桓温于上一年迁扬州刺史、录尚书事，当年内镇至姑孰，桓冲则进监江州、荆州之江夏和随郡、豫州之汝南西阳新蔡颍川三州六郡诸军事、南中郎将、江州刺史、假节，其余如故。与兄长桓豁分掌江荆二州。
接任兄位
在桓温诸弟中，就以桓冲最渊博，有军事才干，于是很受桓温器重。又因桓温世子桓熙才能薄弱，于是在宁康元年（373年）桓温病重时就以桓冲统领他的部众。然而在此时却令桓熙不满，更与弟弟桓济和因被桓温免官而怨恨桓温的叔父桓秘合谋杀死桓冲。桓冲暗中知道他们的图谋，于是不敢去探病。桓温当年去世后，桓冲派人收捕桓熙和桓济然后才去桓温的丧礼，后桓秘被废弃不用而桓熙和桓济就被流放到长沙。
桓冲随后就迁中军将军、都督扬豫江三州诸军事、扬豫二州刺史，假节，镇姑孰。桓温有不臣之迹，而且昔日桓温连处以死刑之事都由自己专任；但桓冲接替他后却尽忠于王室，不但将处死之事都先上报朝廷，连当时有人劝桓冲诛除时望，以专掌权力都被桓冲拒绝。
宁康三年（375年），当时尚书仆射辅政，声望极重，群情所归，桓冲自以气量和涵养都不及，而且自己是将领，军事才能不见用于宰相职，于是打算解任扬州刺史并让给，自求出镇。这个决定被当时桓氏党众所反对，郗超亦极力劝阻，但桓冲心意已决，完全没有为放弃扬州刺史这个掌握京畿、权位极重的职位感到可惜，只尽心匡国。当年就改都督徐豫兖青扬五州诸军事、徐州刺史，以北中郎府并入中军将军府，出镇京口。
太元元年（376年），因打算以外戚王蕴出镇，于是让桓冲解任徐州刺史，迁为车骑将军、都督豫州之历阳淮南庐江安丰襄城及江州之寻阳二州六郡诸军事，改镇姑孰。
同年前秦攻伐前凉，桓冲与兄长征西大将军桓豁合作，派了豫州刺史桓伊进军寿阳，淮南太守刘波率水军进兵淮、泗一带，与桓豁所命进攻沔、汉一带的军队共同侵扰前秦以减轻前凉的压力。及后收到前凉覆亡的消息就罢军。
驻镇荆州
太元二年（377年），桓豁去世，桓冲迁都督江荆梁益宁交广七州扬州之义成雍州之京兆司州之河东诸军事、领南蛮校尉、荆州刺史，持节镇江陵，余如故。桓冲出发时得晋孝武帝在西堂饯行，更送行至溧洲。
桓冲到荆州后，以当时前秦强盛，于是意欲移镇加强防守，于是上请从江北的江陵改镇江南的上明。当时荆州因水旱而发生饥荒，朝廷更每年运三十万斛米粮支援桓冲军粮开支。太元三年（378年），苻坚派大军南侵，鲁阳、南乡、南阳等地都沦陷，分攻两地的石越和姚苌及慕容垂更与苻丕及苟苌和慕容暐会合联攻梁州刺史朱序所驻的襄阳。当时桓冲虽然在上明拥兵七万，但因畏惧秦军而不敢进攻，所派的刘波亦因畏惧而不敢前进，最终朱序兵败被擒，襄阳失陷。桓冲在战后引咎上疏请求解职，但不被允许，后更派左卫将军张玄之去桓冲处咨谋军事。
太元六年（381年），秦将阎震和吴仲率兵南侵竟陵，桓冲派桓石虔和桓石民抵抗，大败阎震等并逼令他退守管城，桓石虔继续进攻，成功攻下管城并俘获阎震等二十九人。次年桓冲又派扬威将军朱绰进攻襄阳，焚毁前秦在沔北的屯田及掠六百多户南归。然而，在此时前秦天王苻坚已决意消灭东晋，并已在益州命裴元略及王抚造船预备入侵，又作出多次将领调动，为灭晋做准备。
淝水之战
参见：淝水之战
太元八年（383年）五月，在前秦南侵前夕，桓冲自上明率十万兵北伐前秦，进攻襄阳，又派刘波、桓石虔等进攻沔北诸城，命辅国将军杨亮进攻蜀地，攻下五城后再继续进攻涪城，武当亦被鹰扬将军郭铨攻下，别将又继而攻下万岁和筑阳两城。苻坚于是派征南将军苻睿和慕容垂救援襄阳，当时慕容垂为前锋，进兵至沔水，更命将士每人手持十把火炬夜行，伪装成兵力极大的样子。桓冲中计畏惧秦军兵多，又因军有疾疫，于是撤还上明，杨亮亦因前秦援兵入蜀而撤军，桓石虔及郭铨在武当击败来援的张崇后亦掳二千户人南归。战后桓冲向朝廷推荐桓石虔，表他为襄城太守并守夏口；同时亦上请让王荟任江州刺史，但因王荟因兄长王劭去世而辞任，桓冲不满改以谢輶上任，于是自请任江州刺史。
八月，前秦正式派兵大举南侵东晋，苻坚以苻融率慕容垂等人以步骑二十五万作前锋，然而因防桓冲的荆州兵，于是主攻豫州寿阳（今安徽寿县），另以姚苌督益梁二州诸军事，更授以自己杀苻生登位时所任的龙骧将军，寄予厚望，似要让他领益州新建水军牵制桓冲；另又以慕容垂等人别攻荆州江夏附近的郧城。当时桓冲见前秦倾力南侵，于是派三千精兵入赴建康，以求保全首都，然而认为即使多三千人也是少于敌军，反意图示以悠闲从容，于是拒绝桓冲派兵入援，反要桓冲守着荆州。但当时桓冲对派谢玄等人抵抗前秦的应对措施没有期望，更向参佐指“大敌垂至，方游谈不暇”，又指派遣的谢玄等人为“不经事少年”，认为此战必败，大家要受胡人统治了。然而，当年谢玄就于淝水击溃前秦大军，当日在襄阳被俘的朱序也在战后重返东晋。桓冲自感失言之余又因当日力图镇守捍卫国土却令紧密合作的朱序被俘，至那时朱序却与谢玄等暗中合作，击败前秦亦成功回国，更是惭愧不已。
羞愤病逝
桓冲因长期服用五石散，加上年事已高，因而发病，于太元九年（384年）二月二十七日逝世，享年五十七岁。朝廷追赠太尉，谥号为宣穆。
桓冲灵柩经过江陵时，男女老幼都江边送别桓冲，都哭得十分伤心。后桓玄篡位，追赠桓冲为太傅、宣城王。
桓冲相关历史话题： 淝水之战