１９８５年５月，中央军委主席邓小平在军委扩大会议上宣布，中国政府决定，中国人民解放军裁军百万。这是又一次精简整编军队的重大措施。
在这之前的酝酿过程中，聂荣臻提出了许多重要意见。他认为在８０年代或更长一点的时间内，针对中国的大仗、中仗都打不起来，因此应该抓紧时机，大量裁减军队，用特别优秀的年轻干部，接好各级领导的班。他还提出：军队的三总部领导体制以不变为好，只提精简人数的要求，三总部下属机构能否撤销或合并，应认真研究后决定。武器装备从研制、生产、装备部队到淘汰，还是应该由有关部门分工负责，这项工作太复杂，成立一个大一统的组织难以管好。陆军在三军中应占最大比重，军队打仗历来靠陆军，今后仍然如此。战时战略区内的三军必须统一指挥，为此，平时在组织上，海军舰队和空军作战部队，应由海、空军领导机关和所在的大军区实施双重领导。后勤供应的通用物资应该实行三军统一供应。合成军队的规模小些好，灵活机动，究竟多大规模，应该论证确定。他还第一个提出了成立国防大学的意见。他说：随着军队的精简，高级干部相应减少，应该把培养高级干部的院校集中起来，成立国防大学。
他的这些意见，在讨论过程中受到与会者的普遍重视，军委其他领导人也都给予了充分肯定。