刘秀不断削弱地方的军事力量，增强中央集权。他在建立新政权不久，就发布诏书废除郡国都尉制度，将兵力统一归属于守、相。随后，他又取消了各郡、国的常备部队，并撤销每年一度的都试活动。从此，地方上的军事力量大为减少，只能在小规模战斗中参与，而对于大规模战争则主要依赖中央政府组织和指挥。

中央政府下辖四个主要军队。在首都设有两支：南军和北军。南军进一步分为两个部分，一部分由光禄勋管理，包括五官中郎将、左中郎将、右中郎将、虎贲中郎将以及羽林中郎将等负责宫廷卫兵和侍从；另一部分由卫尉管理，负责宫门的防护。

北军则设立一个名为“北监”的职位，其下分五营，即屯骑营、越骑营、步兵营、中候及射声营，每个营配备校尉，对其士兵进行管理并负责京师的安全。

在地方上，有两支重要部队。一是黎阳营，由合并来的幽州冀州并州三地士兵组成，在黎阳（今河南省浚县东）驻扎，以谒者监作为监察官员监督其行动。该部队主要任务是保护黄河以北地区，为首都雒阳提供安全屏障。

另有一支雍营驻扎于雍（今陕西省凤翔南），主要任务是守卫三辅地区，也就是西汉皇陵所在地，为首都雒阳提供西面的屏障。此外，还为了抵御鲜卑贵族的侵扰，在安帝时期增设渔阳（今北京怀柔）区部队。此外，还有使匈奴中的行省长官、中郎将等领导的人马，这些边防部队直接隶属于中央政府。