新中国成立初期我军实行精简整编
新中国成立之初，解放战争尚未结束，朝鲜战争也随后爆发。我军根据实际情况先后组建第11、49、54、55、69军共5个军，其中第11、49、69军为撤编后重建单位。而同时期新疆民族军和国民党起义部队也相继改编为第5、9、36、37、52、53和西北军区独立第3军。
截至1952年年底，在我军原计划组建的70个军的番号中，除第56、57、59军番号没有正式授予外，其余番号已经全部出现。如果算上西北军区独立第1、2、3军，则人民解放军的历史上已经出现了70个军的番号。
全国解放战争基本结束后，中国人民解放军也进入新的历史发展阶段，其职能、任务发生了历史性转变。为了建设一支诸军兵种合成、高度现代化正规化的国防军，在军委总部机关以及军兵种领导机构和部队建立的同时，全军也开始大规模精简整编，压缩军队尤其是陆军规模，提高战斗力成为此次整编的重点。
1950年10月1日，中央人民政府人民革命军事委员会颁布《国防军陆军部队军暂行编制表》，明确“国防军以军为指挥单位，实行“三三制”编制”；每个军辖三个步兵师，1个直属营、5个直属连、1个教导大队共36440人（不包含作战时配属的野榴弹炮团），其中干部5353人，士兵中战斗人员24576人，非战斗人员6511人。
在本阶段的精简整编中，第2、3、4、5、6、7、9、10、11、17、18、19、25、29、30、32、33、34、35、36、37、44、45、48、49、51、52、53、61、62军以及西北军区独立第1、2、3军共35个军被撤消了番号（其中第11、49军被撤销两次），兵团番号也随之撤销。人员要么集体转隶海、空、公安部队以及改为军区，要么集体转业为建设兵团，到地方从事经济建设。
截至1955年12月，中国人民解放军（含志愿军）陆军共有12个大军区（1956年7月增加为13个）3个兵团（志愿军第19、20兵团，沈阳军区第3兵团），34个军。其中志愿军5个、北京军区5个、沈阳军区6个、南京军区7个、广州军区5个、济南军区3个、昆明军区2个、武汉军区1个。全军总人数也从新中国成立初期的550万人减少为333万余人。
从1957年开始，中央军委着手在便于机动作战地区抽调第1、12、15、21、47、63军组建战略预备队，这6个军平时归各军区领导，战时则由统帅部统一指挥。1958年4月，南京军区第22军与守备第14旅组建舟嵊要塞区，原编制撤销。同年10月，志愿军第1、16、21、23、54军分三批从朝鲜撤回国内，重返我军的战斗序列。1961年6月，武汉军区陆军第15军划归空军，改编为空降兵第15军。同年8月，陆军第43军撤销，部队转隶海南军区。我军陆军军的数量缩小到31个。
动荡时期的我军编制体制调整
上世纪60年代中期以后，中国的国家安全形势日趋严峻。面对周边敌对势力南北战略夹击的军事威胁，党中央提出了“早打、大打、打核战争”的指导思想。在这一战略思想的指导下，人民解放军在加大战备建设力度的同时调整组织体制，开始扩建和新建部队。其中，除对原有13个大军区进行调整以及将公安军纳入陆军的战斗序列，同时也开始对部分野战军进行调防。从1967年至1975年，全军先后有15个军进行了调防，主要是加强“三北”地区防御力量。
1968年中央军委决定组建陆军第43军和陆军第17军。珍宝岛事件爆发后，中央军委为了进一步加强“三北”地区的作战力量，不仅将战略预备队的数量增加到13个军，还先后组建第11军、第19军、第29军三个军的军部并组（改）建30个陆军师。
截至1969年年底，全军在编人员631万人，陆军36个军，成为新中国成立以来人民解放军历史上人数最多的时期。
除了军队数量发生变化，为了提高部队机动作战能力，1969年2月24日经毛泽东主席批准，北京军区第38军改编为摩托化军。这是我军第一个摩托化军。改编后的38军下辖3个摩托化师和1个炮兵团、1个火箭炮团、1个高炮团，以及工兵营、通讯营、侦察连、防化连等保障分队。全军编制4.6万人，坦克240辆，汽车3600辆。1971年8月，陆军第27军也改编为摩托化军。
在改编这两个军的同时，全军还在军一级部队陆续增建火箭炮营、坦克团，并将原有的高炮营扩编为团，换装并增加了陆军师的装备。这些措施都增强了当时陆军部队的火力打击能力，尤其是反坦克和防空能力，使陆军部队的合成化程度得到进一步提高。
1973年2月，武汉军区第17军撤编。到上世纪70年代末，解放军陆军军的数量保持在35个。