1975年，邓小平以军队整顿为突破口，大刀阔斧地开始了全面整顿。1月19日，邓小平在解放军各大军区领导同志座谈会上发表了题为《军队要安定团结》的谈话。他指出：“在军委扩大会议之后，还要开一个政治工作会议。”为什么要召开政治工作会议？邓小平回答说：因为“军队的思想问题一大堆”。
在1975年7月14日召开的中央军委扩大会议上，邓小平在提出了“军队整顿的任务”后说，“很多同志提出，希望开一个政治工作会议，我看这个意见很好，是需要开一个全军政治工作会议，研究加强军队党的工作和政治工作”，从而达到“要加强军队党委的集体领导，要加强政治机关，提高政治机关的威信”的目的。但由于邓小平政治生涯的第三次“跌落”，这次会议中途夭折。1977年12月，经过充分酝酿，中央军委在北京召开全体会议。第三次复出的邓小平发表重要讲话，强调加强军队领导班子建设、纪律建设和军队团结，以保证全军各项任务的完成。
1977年12月中央军委全会之后，邓小平等同意多数人的提议，决定召开全军政治工作会议，并明确把会议主题定为“集中研究在新的历史条件下，恢复和发扬政治工作的优良传统，提高我军战斗力”。全军政治工作会议多年没开，现在开这样一次会议，应该采取什么方法呢？邓小平提出，方法有两种。很明显，第一种应该也只能是“采取实事求是、从实际出发、理论和实践相结合的方法，总结过去的经验，分析新的历史条件，提出新的问题、新的任务、新的方针。这样，我们的会议才能够解决问题，才能够解决得正确”，才能“在实际行动中坚决拥护毛泽东思想”。第二种是“只把过去的一些文件逐字逐句照抄一通”，但那就不能解决任何问题，“实际上也只能是违反毛泽东思想”。
根据中央军委全会和邓小平等指示精神，时任解放军总政治部主任韦国清，主持召开总政党委会进行研究，决定由梁必业具体负责会议的筹备和文件的起草工作。由于这是从提议到召开经过几年时间，特别是经过粉碎“四人帮”、结束“文化大革命”后的第一次全军政工会议，因而成为在重要转折关头肃清林彪、“四人帮”对我军政治工作的破坏与影响的会议。因此，开好这次会议十分重要，而关键是要有好的会议文件。这期间，梁必业等把主要精力放在了组织领导起草会议文件上。
邓小平十分关心会议文件的起草工作，先后几次召集总政领导同志座谈，并作出重要指示。整个文件形成都是按邓小平的指示精神去起草和修改的。
1978年3月20日上午，邓小平同韦国清、梁必业、徐立清、颜金生等谈话，对会议几个主要文件提出修改意见。他认为：
第一，“这次全军政治工作会议的文件，中心就是要把决议搞好”。在审看《中共中央军委关于加强军队政治工作决议》草案送审稿后，邓小平认为，决议稿写得比较简练，但不够全面。“要写全面一些，要把古田会议以来政治工作总结的全部好的经验都写进去。”决议稿对三大民主等内容不突出，所以“要充实，要强调”。邓小平还说，1960年军委扩大会议作出的决议是好的，这次写决议要把好内容都吸收进来。“军队建立纪律检查委员会应该写上，奖惩制度也应该写上。”“这个决议要作为今后学习和检查的主要文件，以后大家看这个决议基本就可以了。”“政治工作要保障部队战斗力的提高。”过去练四大技术（指射击、投弹、刺杀、土工作业）出战斗力，现在情况不同了，要掌握现代化战争知识，要一兵多能，干部要指挥现代化战争。
第二，会议主题报告“要更多地阐明在新的历史条件下政治工作怎么做，全军指战员怎么做”。邓小平说，报告稿有的部分重复，理得不清。报告对保证训练质量没有讲，政治工作要加强这方面的工作。对院校提了一句，不够。报告就是要有针对性，要抓住重点，抽几个问题展开讲，集中讲，讲透。报告就是“要讲清楚新的条件是什么，在新的条件下，应该怎么讲纪律，怎么做思想政治工作，怎么提高战斗力，怎么发扬优良传统”。
总之，决议、报告就是要解决在新的条件下政治工作怎么做的问题。邓小平举例说，年轻干部到地方比较好安排。“军队干部转业到地方，要作风好，艰苦奋斗，能上能下。要既能管好军队，又能做好地方工作”，再加上学习一些相应的本领，这也是新条件下的问题。在新的条件下，“要强调一兵多能，干部多学些本领，转业以后工作就好安排了，就能较快接上工作了”。军队干部如果思想好、作风好，转业后会做政治工作，会做管理工作，地方也会欢迎。此外，邓小平还对干部考核与奖惩、整顿作风纪律、政工干部以身作则、把军队办成大学校等问题作了指示。
根据邓小平指示，会议期间，到会全体同志人人动脑、动口、动手，集思广益，讨论修改决议草案，提出了许多好的意见和建议。尔后，成立了一个由8个大单位负责同志组成的修改小组，集中研究分析大家的意见，从中心思想、内容、结构到文风，都作了较多的修改，再次印发大家讨论征求意见。叶剑英和邓小平在会议上讲话后，会议文件又作了进一步修改。最后由韦国清主持召开总政党委会讨论通过，形成给军委的送审稿。经军委通过后，由中央批转全党、全军贯彻执行。（摘自《党史文苑》）
