刘秀不断削弱地方的军事权力，增强中央集权。他不久后便下令废除郡国都尉制度，将兵权交由守、相统管。随后，他又取消了各郡、国的常备军队和每年的都试考核制度。在此之后，守、相的军事力量也被取缔，郡县之间几乎没有实战能力的大规模战争需要依靠中央部队来解决。

中央军队主要由四个部分组成，其中在首都设立了两支部队：南军和北军。南军进一步分为两个部分，一部分由光禄勋管理，包括五官中郎将、左中郎将、中郎将等七署负责宫殿保护和侍从；另一部分归卫尉管理，以确保宫门安全。

北军则设有一个中候，并划分为五个营，每个营设校尉负责具体任务和兵力保卫京师。此外，在地方上还有两大驻扎点：黎阳营位于河南浚县东，是汇集幽冀并三州兵骑的地方，用以防御黄河以北地区，为雒阳（今洛阳）提供北面屏障；雍营驻扎在陕西凤翔南，与之类似地主导三辅区域（左冯翊、右扶风、京兆）的安全，也是雒阳城西面的防线。此外，还为了应对鲜卑贵族的威胁，安帝时期增加了渔阳营兵。除了这些内陆防线，还有使匈奴中郎将、度辽将军等人指挥边疆部队，这些部队直接受中央指挥。