当马其顿运用方阵作战达到了精通熟练的地步时，古罗马也开始崛起为难以对付的军事强国了。在古罗马王国和古罗马共和国的初期，士兵是从公民中动员来的。由于他们必须自备武器，因此，骑兵以及装备最好的重步兵均来自最富裕的阶层。如同希腊和马其顿军队一样，古罗马军队中也有装备稍差的步兵分队，如标枪兵、投石兵和一些不带盔甲的辅助兵。各种部队均以一百人为单位进行编队，称为百人队。这些早期罗马军队的作战队形也是方阵。盔甲较好的重步兵排在正面，轻步兵在方阵主体的前面作战并负责掩护方阵的侧翼。
古罗马军队多年作战的经验和教训对他们的军事学说产生了很大的影响，并使他们对军队的组织体制和战术进行了许多改进。这些改进有些是伴随着兵器的改良而进行的，有些则是因素或社会性质所促成的。
到了大约公元前300年的时候，古罗马逐渐形成了由支队组成的军团作战体制。在人类军事史上，单兵作战的士兵第一次从密集队形的束缚中被解放出来了，而且在他的侧面和背后还能得到必要的支援。这一切都是伴随着短剑和重标枪这两种兵器的采用和完善而实现的，也正是由于这两种兵器的采用和完善，古罗马军团才有可能形成。
在此之前，骑兵和步兵主要采用长矛和弓进行作战，剑是他们的辅助兵器。公元前三世纪末，古罗马军队淘汰了用于砍杀的剑，改用一种稍短的剑，用于刺杀，称为短剑。据希腊历史家波里比阿和罗马历史家李维说，这种剑是按照西班牙雇佣军的剑设计的，它的长度约为两英尺，剑宽约两英寸，很重，剑头十分尖利。剑柄可用木、骨、象牙或金属制成。
古罗马短剑使用起来比梭镖更加灵便，用处更广。它可以作为劈刺式兵器，砍下敌人方阵中梭镖兵的脑袋。它比单纯用于刺杀的剑更能杀伤敌人。在当时不管什么伤(特别是砍裂刀伤)都可能造成生命危险，因此，剑有这样的作用是十分重要的。李维曾在著作中描述过马其顿士兵“当见到西班牙士兵用剑把剁成碎块，将胳膊从上剁下，肩、四肢或脑袋与身体分离，颈部被刺得血肉模糊，内脏裸露在外”的情景时，都吓得魂不附体。
另一方面，由于短剑的作用距离较近，不象梭镖那样能够拒敌于较远的距离之外，它对士兵的保护功能要差一些。为了弥补这一缺陷，他们把盾作了较大的改进。马其顿人加大了原来较小的希腊圆盾的直径，古罗马军队则把盾改成结实的长圆形凸面体，高约四英尺，宽两英尺，可以将身体的大部分遮盖住。其形状有些象琵琶桶的平面。它用木头制成，上面蒙有兽皮，并用窄条金属加固。用这种护身装具，古罗马士兵比马其顿甲兵行动较为轻便。
古罗马士兵使用短剑时，在其右前方需要大约六英尺的空间。他必须逼近敌人才能刺伤敌人，因此，这样的战斗称得上是名符其实的短兵相接，需要具有大无畏的勇敢精神。古罗马直到共和国时期才具备了成熟的和心理条件，使得士兵基本上能够独立自主地使用兵器。共和国的罗马人是国家的公民，而不再是君主国的臣民。
古罗马兵器的一项重大发展是重标枪。它是标枪的一种，跟短剑一样出现于公元前三世纪。据考证，标枪从旧石器时代起就已问世。在希腊和马其顿军队中，在战斗的开始阶段，辅助部队用标枪来动摇敌人的士气，打开突破口或者骚扰其侧翼。古罗马军队曾经试用过多种不同类型的标枪，到公元前二世纪时似乎基本定了型。这种标枪容易投掷，穿透力大。它一半是金属杆，一半是木头制成。也就是将一根长四点五英尺的铁杆插入一根四点五英尺长的木杆，其总长度约为七英尺。为了将标枪的两个部分连接起来，通常是用两个销钉。从古罗马的马略将军时起，这两个销钉中有一个是木制的，因此标枪在插入盾或时很容易断裂。后来，到凯撒大帝时期，在软金属杆上加了一个坚硬的铁枪尖，这样，标枪在穿透盾或后枪身便随之弯曲而不会断裂，不过要重新拔出则比较困难。
重标枪用单手投出，最大投射距离约六十英尺，但实际上往往没有这么远。作战时，军团士兵一齐投出，这样就可以取得最大的心理威慑效果。为了提高命中率，有时也为了增加投射距离，因此，在重标枪的木杆上绕一根绳索，在投射的霎那间用劲一拉，使标枪旋转着向前飞去。倘若正好穿透敌人的盾，盾就失去作用，持盾的士兵只好听凭古罗马士兵冲上来用短剑砍刺。如果重标枪的入射角为45°或45°以上，就能穿透胸铠和头盔。假如把重标枪握在手里则完全可以当作一支威力强大的近刺长矛来使用。起初，重标枪只是剑的辅助兵器，到了公元前一世纪，它的作用就变得跟剑同样重要了。古罗马军团的士兵通常都携带着这一重一轻的两种兵器。
短剑的启用和由分队组成的高度机动的军团的发展，使古罗马军团进入了作战效能最高的阶段。这种高度机动的军团取代了早期的方阵队形。古罗马依靠这种军团冲出了意大利，经过一连串几乎很少吃败仗的战争，征服了整个地中海地区。
古罗马军队的士兵有四种类型，他们都是自由公民，具有忠诚于国家的强烈意识，第一类是少年兵或称轻步兵，他们年龄最小，最灵活敏捷，但又最缺乏训练；第二类是青年兵，他们年龄稍大，经验较多，组成了军团重步兵的第一战列；第三类是壮年兵，平均年龄约三十岁，他们成熟，顽强，经验丰富，是整个军队的中坚力量，组成了军团重步兵的第二战列；第四类是成年兵，他们年龄最大，老成稳健，正好弥补了少年兵鲁莽的缺点，组成了重步兵的第三战列。
古罗马军队的基本战术组织是小队，相当于现代军队中的连。每个小队由两个百人队组成，相当于现在的两个排。百人队原先为一百人，后来改为60至80人。每个成年兵小队只包含一个百人队。鉴于由一名军官(百人队长)来指挥一百人的队伍常显得力不从心，因此后来减少了人数，但百人队这个名称仍然保留了下来。大队相当于现在的营，由450至570人组成，其中有120至160名少年兵，还有相同数量的青年兵和壮年兵，60至80名成年兵，另加一队30人的骑兵。大队里的骑兵很少跟大队一同作战，而是自己合起来组成较大的骑兵队伍。
古罗马军团相当于现代军队中的一个师，它由10个大队组成，约4500至5000士兵，其中包括300名骑兵。每个古罗马军团配有(在古罗马共和国时期)一个联合军团。它们两者的组织体制相同，不过联合军团的骑兵通常有600人。有些人士认为，联合军团的组织体制跟古罗马军团不一样，它是古罗马采取的一种策略，以大约相等数量的联合部队来支援各古罗马军团。联合部队最大的正式编制是大队。但至少在凯撒时期，联合军团跟古罗马军团的组织体制是同样正规的。
古罗马军团和联合军团合起来相当于现代的一个军，约9000至10000人，其中约有骑兵900人。两个古罗马军团加上两个联合军团组成一个野战军，称为执政官统率的集团军，由两名罗马执政官当中的一名指挥。每个执政官统率的集团军通常有18000至2万人，其正面战线宽约二千五百米；整个集团军战斗编队占地约六十万平方米，大约三倍于同样规模的古希腊方阵队形。
军团的机动性取决于每个横队中各分队之间的战术关系，也取决于重步兵的各个作战横队之间的相互关系。每个小队就象一个古希腊小方阵，它的每个横列约20人，纵深6人，士兵间隔略大于古希腊方阵的士兵间隔。每个士兵所占位置约1.5平方米，横队的各个小队之间有一个相当于小队正面宽度的间隔，约30米。各小队交错排列，第二和第三横队中的小队正好对着前面横队的间隔，形成棋盘状的纵横交错队形。二个重步兵横队之间约有100米的间隔。
这种棋盘方格状的作战队形较之古希腊方阵有许多优点。它比较容易在地形崎岖的乡村实施机动，不用担心部队前后失去紧密的联系，也不必担心横队中出现前后脱节的现象(因为队伍本来就有一定的间隔)。必要时，第一横队可以穿过第二横队进行撤退，第二横队也可以穿过第一横队向前推进。成年兵横队实际上是军团的一支有机的后备队。不管怎样说，指挥官是有意识地把它当作后备队来使用的。各部队之间的间隔当然是比较薄弱的环节。
但是，当出现危险情况时，前两个横队的间隔后面会有其他部队来加以填补，因此，这种危险性始终是有限的。作战时，前两个横队可以合成一体，形成一种方阵队形。一旦部队重新需要实施机动时，又可以迅速拉开间隔距离。
青年兵和壮年兵均配备有两支重标枪和一支宽刃的护身短剑。每人还携带着长圆形凸面体的古罗马盾。成年兵不配备重标枪，也不带短剑，只有一根12英尺长的长矛。少年兵配备有普通标枪和投镖。为了使远距离投掷兵器能够取得多种效果，古罗马人有时还使用外国雇佣军，如巴利阿利投石兵和爱琴海地区的弓箭手等，跟古罗马军队的少年兵配合作战。
作战时，青年兵(可能也有壮年兵)推进到接近敌人时便一齐将重标枪投射出去，接着，用剑跟敌人进行近战。当他们拼杀得精疲力尽时，壮年兵便上来替换，青年兵下去休息。进攻在一条很宽的战线上展开，通常要进行好几个批次的替换。士兵都是按进攻战的要求配备武器和进行训练的。只要可能，指挥官总是力图先发制人。
在对付野蛮民族的部队时，古罗马军团用齐投重标枪的办法来阻挡敌人的进攻，然后用短剑进行近战。这种战斗实际上变成了一种剑术的较量。由于古罗马军队受过良好的教育和训练，其军事组织体制又能经得起战斗的考验，因此总是稳操胜券。
在跟马其顿方阵作战时，一名古罗马军团的士兵要对付方阵第一排的两名梭镖手，还要抵挡他们后面四排士兵的梭镖的袭击。他用手中的二支重标枪可以抵销敌人的一、二支兵器的作用。然后，他必须采取边进边退边机动的办法，用短剑架起、拨开或击断敌人的梭镖，最后，在敌人的队伍中打开一个突破口。接着，军团士兵才能用短剑在方阵的密集队伍中进行拼杀。
马其顿方阵和古罗马军团曾经有过两次重大的交战。一次是第二次马其顿战争中的西诺塞法拉战役，一次是第三次马其顿战争中的皮德那战役。两次战役均由古罗马军团获胜。公元前197年在希腊东北部的西诺塞法拉战役中，两支军队(各有约26000人的兵力)在大雾中的山间乡村不期而遇。马其顿军由菲利普五世统帅，罗马军(当时正支持独立的希腊，企图反抗马其顿征服希腊半岛)由卓越的年轻将军泰特斯·奎因克修斯·弗拉米尼纳斯率领。菲利普因初战告捷而忘乎所以，在不适宜方阵作战的地形上与古罗马军全面开战。他的右翼部队将罗马军的左翼顶了回去，但当马其顿的左翼部队正要由行进纵队在平坦地形上摆开阵势时，却遭到弗拉米尼纳斯率领的罗马军右翼的袭击而被击溃。一部分前进中的罗马军右翼转过来进攻马其顿军队的右翼，将混乱中的马其顿军赶出了战场，使之遭到了巨大的损失。这次战斗充分表现出古罗马军团的极大的机动灵活性。
第三次马其顿战争是由于马其顿国王柏修斯(菲利普五世之子)重新试图控制希腊而引起的。罗马人再次干预了马其顿的举动。战争在皮德那达到了。柏修斯率领一支32000人的军队跟阿森河对岸由卢修斯·艾米留斯·保罗斯率领的一支规模稍小的罗马军相对峙。公元前168年6月22日，正当阿森河两岸的军队都在饮马时，因发生某一偶然事件拉开了战斗的序幕。柏修斯抓住主动，首先集合方阵，向河对岸发起攻击。艾米留斯虽然竭力设法集合他的队伍，马其顿方阵则以锐不可挡之势向靠近河岸的平坦地区席卷而去。但马其顿军在继续南进时遇到起伏不平的地形，队伍无法保持前后呼应。这时艾米留斯乘机挥师反击，突破了马其顿军方阵中出现的缺口。缺口一经突破，整个方阵便土崩瓦解。战争结果使罗马人控制了希腊、马其顿和地中海东部地区。
古罗马军团是由可以单独机动的部队组成的，他们能在敌人防线上打开缺口并利用缺口进攻敌人。而每个军团士兵也都经过严格训练，能在较小规模上以同样的方式进行战斗。他们是人类战争史上最早以这种战术队形、这种方式进行作战的，也是最早以剑而不是梭镖为主要兵器进行战斗的士兵。他们在作战中表现出来的较强的独立性和高度的训练素养，标志着一个团结一致的罗马国的崛起。它的军队能够长年不息地打仗。罗马士兵是国家的公民，因此他们意识到是为自己肩负的重任而战。
古罗马逐步扩展成为一个地中海帝国，从而导致了由步兵大队组成的古罗马军团的发展。从某种意义上来说，这种军团是从步兵分队组成的军团演变而来的。它在公元二世纪时得到发展，在二世纪的最后几年里，盖尤斯·马略将军又进一步加强和巩固了这种体制。由于罗马帝国扩张的需要，加之许多外国对这一广阔地区的威胁，迫使罗马在军事上进行了巨大和必要的改革，同时也导致罗马政府由共和国改成了帝国。
由于罗马帝国的疆土步步扩张，使得连年不断的战争规模越来越大。采用每年征募公民来组建民兵的办法已不能满足军队兵力的需求，因此必须建立一支由专职士兵组成的常备军。许多士兵是从不太可靠的社会成分中征集而来，他们的纪律、训练水平和忠诚可靠程度下降了，官兵之间互不信赖。为了加强作战的指挥控制，不得不缩小军团各小队之间的间隔。因此，古罗马军队的作战队形实际上开始向陈旧的古希腊方阵演变了。这就使古罗马军队失去了原有的优势地位，从而造成他们在帝国边缘地区的作战连连失利。
由于事态的发展，迫使罗马执政官马略于公元前100年左右对罗马军事体制进行了改革，以适应当时形势的要求。在后来的几个世纪里，罗马的讲究实际的高级首脑也多次从事过这样的改革。马略在担任罗马执政官期间，建立了一套新的军事组织体制。这种体制及其影响，一直延续到初年。该体制消除了民兵内各旧贵族间的界限，又消除了他们的年龄和作战经验方面的差别，增进了各部队之间和士兵之间的交流，提高了作战的机动性和灵活性，进行了兵员的补充和更新。他还制定了一套新的完整的训练教范，虽然后来几经修改，但在凯撒时代不失为行之有效的训练法规。由于军队越来越趋向于职业化，因而克服了士兵在尚武精神和公民责任感方面日益下降的弊病。
马略接受了罗马军团逐步向方阵队形演变的趋向，并把步兵大队作为基本的战术组织。小分队虽然保留了下来，但仅仅作为大队里的一个行政单位。每个军团由十个大队组成，每个大队有400-500人。
作战时，大队编为十或八列横队，每列横队约有50人。在排成密集队形时，士兵间距约三英尺，这样很适合部队的机动和密集的标枪投掷，但不宜用于白刃战，因为间距太小，剑无法施展。为此，在进行近战时采用了间距为六英尺的疏开队形。为使密集队形能够迅速扩展为疏开队形，在交战前各大队之间必须留出相当于一个大队宽度的间隔距离。如果一个军团由二或三个横队组成，马略就把横队中的各大队按棋盘方格形状加以排列，从而使军团保持了原有的灵活性和机动性，并在士兵之间保留了战斗中挥剑所需的间隔距离。同时利用这种队形的灵活性可以适应方阵中士兵往往自然而然地挤到一起去的倾向，使军团在近战时正面阵线始终保持连贯均衡，不致产生缺口。这是一项简单、高明、行之有效的改革，使古罗马军团继续保持了固有的灵活多变的特性。
大队在行进时编成四路或五路纵队。若要变为战斗横队，只须先合并成二路纵队，然后作向右或向左转即可。行进间的队伍要进行各种各样的排面和方向的变换时，跟现代军队密集队形的操练方式相似。
军团通常编为三个横队。第一横队包括四个大队，第二和第三横队各为三个大队，后面横队中的各大队对准前一横队的大队间隔，以传统的棋盘方格形式交错排列。如果将军团编成二个横队，那末，显然每个横队就由五个大队组成。军团的队形很少编为一个横队，编成四个横队则更属罕见。每个大队正面宽度约为120至150英尺，各大队的间距相等，这就是说，正规的三横队军团正面宽度约为1000英尺。各横队的间距通常约为150英尺，因此军团的纵深约为350英尺。
一支由每个军团平均兵力为4500人的八个军团组成的军队，排成三横队式的队形，其正面总宽度约为2500英尺，跟过去以分队为基本单位的军团相似，但纵深要稍浅一些。即使如此，马略将军率领的军团正面每公尺宽的距离后面平均排有13人，而马其顿方阵则为25人，因此，军团队形的密度约为方阵的一半。
军团的主要防御队形有横队、方队和圆队等。横队通常由十个大队排成一列，部署在设防阵地或战壕的后面。方队按普通三横队形式组成，其中三个大队朝正面，七个大队分别朝着其余三个方向，三个大队向后，另四个大队两两面朝两个侧面。方队和圆队(即方队的变形)均用来对付骑兵。通常若侧翼受自己骑兵或辅助轻步兵的保护，那末军团喜欢以横队对付敌人的骑兵。只要将重标枪、盾和短剑结合使用，就足以抵挡最强大的骑兵冲锋了。
从军事角度来看，以大队为战术单位组成的古罗马军团可以说是古代适应性最强的作战部队。军团最杰出的统帅凯撒在战术上虽无重大贡献，但在军团的运用上却不愧是一位卓越的能手。由于改组了后勤供应车队，作战部队只需携带自身的基本必需品，因此他和他的部队能够迅速前进。侦察兵和骑兵部队能够超前部队主力20英里实施敌情侦察。这是极不简单的。因为原先的军队往往都是莽莽撞撞地进入遭遇战斗的。
古罗马的将军们都强调打进攻战，只要可能，就尽量寻找机会袭击或逼近敌人的侧翼。他们跟敌人一样，总是力争占领制高点，这样可以增加兵器投掷的距离，冲锋时不仅有力，而且冲击力量更大，同时剑和梭镖刺出时也更加容易些。凯撒通常把最得力的大队安排为第一横队，这样一开始突击就能取得最好的效果。
在轻步兵进行小规模袭击和用投掷式兵器进行骚扰之后，双方的主力横队便开始互相接近。罗马军团的横队或者主动前进，或者等候敌军逼近至相隔20码的距离。这时，第一横队的前面两列士兵便将标枪投出。往往就在这个时候，军团已经采取半方阵式的疏开队形。但有时疏开队形的动作有迟滞的现象，要待标枪投出之后才完成疏开动作。
军团几乎总是在主力横队开始跟敌人进行白刃战前发起冲锋。这时，第一横队的8或10列士兵就迅猛冲向敌人，但只有前面的两列士兵能够用上剑，后面各列士兵则将手中的标枪从混战中的士兵头顶掷过去。几分钟后，双方的第二批士兵便上前替换正在交战中的士兵。这样周而复始地替换着打下去，直至战斗结束。与此同时，轻步兵要负责给后面各列士兵补充标枪。这些轻步兵除了要掩护军团的背后和侧翼外，还要负责找回所有能够找到并尚能使用的标枪和投镖。
若第一横队的进攻未能取胜，或者被敌人压住，那末第二横队的士兵就穿过第一横队士兵的六英尺间隔向前推进，第一横队中精疲力尽的士兵则退下来休息并重新编队，最后便作为后备队的第三横队使用。因此在整个战斗中，横队中的各列士兵以及二个或三个主力横队之间都在连续不断地进行调动。要进行这样的调动和替换，军队必须要有高度的纪律性和严密的组织。正因为古罗马军队具备了这样的条件，才能在高明的军事将领的指挥下，不断战胜规模更大的野蛮人的乌合之众以及别的文明国家的军队。
马略军团并没有启用过什么新型兵器，他们通过严格的训练，采用斗剑术以及士兵的真正专业化，提高了当时兵器的效能。长期服役的士兵编成了常备军，佩戴着银鹰标志。忠于自己的军队是对每个士兵的基本要求。古罗马长盾堪称古代最好的盾，巧妙地使用它，再配以头盔、胸铠、皮制的或金属制的上身盔甲及胫甲(只包右腿)，使古罗马军团士兵的身体得到了极好的保护。当时小型投射式兵器也得到日益广泛的应用，凯撒大帝时，每个军团均配有30架小型弹弩和投石器，每架投石器由10人操作。这些武器除用于围城战、保卫野战工事和掩护渡河外，有时在重步兵横队实施突击行动前也在开阔的战场上使用。
约从公元前50年至公元300年，古罗马军事体制没有发生根本性的变化。这一方面反映几个世纪来它的军事技术没有什么大的突破，同时也说明古罗马在其国力鼎盛时期曾经不遗余力地使当时的技术适应了战争艺术和战争科学的需要。
古罗马第一位皇帝奥古斯都为了把帝国的安全与经济的稳定紧密结合起来，曾按照“经济效能”的合理比例关系制定了他的军事方针。在他的领导下，除保留10000名古罗马禁卫军负责维护国内安全外，军队的二十五个军团全部分散部署在边境上。为此建设了一套优质道路网，使军队在遭到外来威胁时能够从一个地区迅速运动到另一地区。
为了支援这二十五个军团，奥古斯都又建立了一支规模与之相当的辅助部队。这支部队包括弓箭兵、投石兵、轻步兵和骑兵。他们大多是从帝国外面的野蛮或半野蛮部落中征募来的。开始时允许辅助部队保留其部落组织和头领。后来发现这样很可能导致他们的反叛和兵变，因此规定野蛮人辅助部队必须调离故乡去守卫别的边疆地区，并按罗马人的规定改造其部落组织，掺进其他部落的人来冲淡原部落人的成份。
古罗马皇帝哈德里安(公元117-138年在位)登基后，将奥古斯都的机动防御方针改为边境的坚固防御。他在边境建造了许多人工障碍以弥补河流山脉等天然屏障之不足。德国的要塞边界和英国的哈德里安墙都是用土筑成的高墙，并在墙头上设置了木栅栏。这种设防的界墙为古罗马边境巡逻部队提供了保护和隐蔽物，同时也使野蛮部落的入侵者更难偷越边境。
后来又有一些古罗马皇帝继续改革从别的边境向发生战事的边境派送援兵的边防体制。最后认为原先的边防措施容易引起各部队内部的混乱乃至解体，有时甚至数年不能恢复，因而不能适应边防要求。为此，决定建立一支机动预备队以解决这一矛盾，也就是采取了奥古斯都和哈德里安两种边防思想的折衷方案。军队分成了两个主要部分：一部分为边境常备军，另一部分为机动野战部队。大约有三分之二的兵力部署在边境要塞，剩下的三分之一为机动部队，集中部署在几个战区内。
早在奥古斯都在位时期，罗马人为其所组织的野蛮人辅助部队进行编组、加以训练和提供装备，所有这些，有时反而被野蛮人用来反对罗马人自己了。一些被遣散的辅助部队士兵和逃兵参加了野蛮人对罗马边境的袭击。野蛮人的军队在跟罗马军队作战中也学习到了许多有用的经验。他们不断改进作战方法，最后，终于推翻了罗马帝国。不过，由于罗马人毕竟在上比较成熟，社会结构又相当严密，加之许多卓越的罗马将领具有高超的组织和领导才能，因此罗马帝国还是苟延残喘了一段较长的时期。