刘秀不断削弱地方的军事权力，增强中央集权。他刚建国不久，就下令废除了郡国都尉这一制度，将兵权统一交由守、相管理。随后，他又取消了各郡、国的常备军队，如轻车骑士、材官、楼船士等。此外，还废除了每年一度的都试制度，从而使得地方上的守、相也失去了其军事指挥权。结果是，地方上的军队力量大减，大多数情况下无法进行战斗；对于重大战争，则需要依赖中央政府调动的大型军队。

中央政府拥有的主要四支部队，在首都设有两支：南北两军。在南北两军中，南军分为两个部分，一部分由光禄勋负责，其下辖七个署，如五官中郎将、中郎将三人以及虎贲、中郎将及羽林监二人，他们主要负责宫廷护卫和侍从服务；另一部分则归于卫尉管辖，专门负责宫门的守卫工作。而在北方，有一个名叫中候的人物领导着五个营，即屯骑营、越骑营、三部步兵营和长水射声营，每个营由校尉一人领导，他们共同确保京城安全。

至于地方上，则设有黎阳与雍二营。黎阳营位于河南省浚县东，以驻扎来自幽冀并三州的兵力和骑兵，是为了防御黄河以北地区，对首都雒阳城提供保护。雍营驻扎在陕西省凤翔南，由此对三辅（左冯翊右扶风京兆）区域，以及西汉皇陵所在地提供防御。在安帝时期，为应对鲜卑贵族的威胁，又增加了渔阳（今北京怀柔）的兵力。此外，还有一些边疆地区如匈奴中郎将度辽将军护乌桓校尉护羌校尉等指挥下的边境巡逻队，这些都是直接向中央政府汇报的人员。