1982年1月11-13日，中共中央政治局召开会议，讨论中央机构精简问题。13日邓小平在中共中央政治局会议上，发表了题为《精简机构是一场革命》的讲话，邓小平指出：精简机构是一场革命。精简这个事情可大啊！如果不搞这场革命，让党和国家的组织继续目前这样机构臃肿重叠、职责不清，许多人员不称职、不负责，工作缺乏精力、知识和效率的状况，这是不可能得到人民赞同的，包括我们自己和我们下面的干部。当然，这不是对人的革命，而是对体制的革命。这场革命不搞，让老人、病人挡住比较年轻、有干劲、有能力的人的路，不只是四个现代化没有希望，甚至于要涉及到亡党亡国的问题，可能要亡党亡国。19日，中共中央将邓小平的讲话印发给中央和国务院各部委党组。中共中央直属机关和中央国家机关的机构改革工作逐步展开。
  资料显示，到1981年，国务院的副总理有13人之多，工作部门有100个，其中部委机构52个，直属机构43个，办公机构5个。而在100个工作部门中，经济管理部门即达71个。这些部门职责重叠，职责难分，工作效率自然难以保证。机构臃肿的另一个原因是，到1982年，大规模平反冤假错案的活动已进行三年。根据1977年中共十一大的决定，对过去审查干部工作中遗留下来的问题要进行认真处理，可以工作而没有分配工作的，要尽快分配工作。大批老同志在平反后回到了工作岗位，因为没有那么多的领导职位，只能通过临时增加副职等办法来解决。

1982年3月8日，五届全国人大常委会第二十二次会议通过了关于国务院机构改革问题的决议。这次改革明确规定了各级各部的职数、年龄和文化结构，减少了副职，提高了素质；在精简机构方面，国务院各部门从100个减为61个，人员编制从原来的5.1万人减为3万人。这次改革历时3年之久，范围包括各级党政机关，是建国以来规模较大、目的性较强的一次建设和完善各级机关的改革。