刘秀不断削弱地方的军事权力，增强中央集权。他不久后便下令废除郡国都尉制度，将兵权交由守、相统管。随后，他又取消了各郡、国的常备军队和每年的都试考核制度。在此之后，地方上的军队力量大减，通常无法进行大规模作战。对于重大战争，需要依赖中央政府组织的大型军队。

中央的主要军队有四支，在首都设立两支，即南北两路。这其中的南路分为两个部分，一部分由光禄勋管理，有七个中郎将负责宫廷防卫和侍从任务；另一部分则由卫尉管理，以保护宫门安全。

在北方设立一个中候机构，由五个营组成，每营设有一名校尉负责指挥与保卫京师安全。此外，还有位于黎阳（今河南省浚县东）的黎阳营，它汇集了幽州、冀州、并州等三地兵力，与雍营共同构成了首都雒阳城北面的防线。安帝时期为了抵御鲜卑贵族的侵扰，又增加了一支驻扎于渔阳（今北京怀柔）的部队。此外，还有使匈奴中郎将、度辽将军、护乌桓校尉以及护羌校尉等官员率领边疆地区的防御部队，他们直接向中央政府报告，不属于任何地方势力的控制之下。