1975年，鄧小平以軍隊整頓為突破口，大刀闊斧地開始了全面整頓。1月19日，鄧小平在解放軍各大軍區領導同志座談會上發表了題為《軍隊要安定團結》的談話。他指出：“在軍委擴大會議之后，還要開一個政治工作會議。”為什麼要召開政治工作會議？鄧小平回答說：因為“軍隊的思想問題一大堆”。
在1975年7月14日召開的中央軍委擴大會議上，鄧小平在提出了“軍隊整頓的任務”后說，“很多同志提出，希望開一個政治工作會議，我看這個意見很好，是需要開一個全軍政治工作會議，研究加強軍隊黨的工作和政治工作”，從而達到“要加強軍隊黨委的集體領導，要加強政治機關，提高政治機關的威信”的目的。但由於鄧小平政治生涯的第三次“跌落”，這次會議中途夭折。1977年12月，經過充分醞釀，中央軍委在北京召開全體會議。第三次復出的鄧小平發表重要講話，強調加強軍隊領導班子建設、紀律建設和軍隊團結，以保証全軍各項任務的完成。
1977年12月中央軍委全會之后，鄧小平等同意多數人的提議，決定召開全軍政治工作會議，並明確把會議主題定為“集中研究在新的歷史條件下，恢復和發揚政治工作的優良傳統，提高我軍戰斗力”。全軍政治工作會議多年沒開，現在開這樣一次會議，應該採取什麼方法呢？鄧小平提出，方法有兩種。很明顯，第一種應該也隻能是“採取實事求是、從實際出發、理論和實踐相結合的方法，總結過去的經驗，分析新的歷史條件，提出新的問題、新的任務、新的方針。這樣，我們的會議才能夠解決問題，才能夠解決得正確”，才能“在實際行動中堅決擁護毛澤東思想”。第二種是“隻把過去的一些文件逐字逐句照抄一通”，但那就不能解決任何問題，“實際上也隻能是違反毛澤東思想”。
根據中央軍委全會和鄧小平等指示精神，時任解放軍總政治部主任韋國清，主持召開總政黨委會進行研究，決定由梁必業具體負責會議的籌備和文件的起草工作。由於這是從提議到召開經過幾年時間，特別是經過粉碎“四人幫”、結束“文化大革命”后的第一次全軍政工會議，因而成為在重要轉折關頭肅清林彪、“四人幫”對我軍政治工作的破壞與影響的會議。因此，開好這次會議十分重要，而關鍵是要有好的會議文件。這期間，梁必業等把主要精力放在了組織領導起草會議文件上。
鄧小平十分關心會議文件的起草工作，先后幾次召集總政領導同志座談，並作出重要指示。整個文件形成都是按鄧小平的指示精神去起草和修改的。
1978年3月20日上午，鄧小平同韋國清、梁必業、徐立清、顏金生等談話，對會議幾個主要文件提出修改意見。他認為：
第一，“這次全軍政治工作會議的文件，中心就是要把決議搞好”。在審看《中共中央軍委關於加強軍隊政治工作決議》草案送審稿后，鄧小平認為，決議稿寫得比較簡練，但不夠全面。“要寫全面一些，要把古田會議以來政治工作總結的全部好的經驗都寫進去。”決議稿對三大民主等內容不突出，所以“要充實，要強調”。鄧小平還說，1960年軍委擴大會議作出的決議是好的，這次寫決議要把好內容都吸收進來。“軍隊建立紀律檢查委員會應該寫上，獎懲制度也應該寫上。”“這個決議要作為今后學習和檢查的主要文件，以后大家看這個決議基本就可以了。”“政治工作要保障部隊戰斗力的提高。”過去練四大技術（指射擊、投彈、刺殺、土工作業）出戰斗力，現在情況不同了，要掌握現代化戰爭知識，要一兵多能，干部要指揮現代化戰爭。
第二，會議主題報告“要更多地闡明在新的歷史條件下政治工作怎麼做，全軍指戰員怎麼做”。鄧小平說，報告稿有的部分重復，理得不清。報告對保証訓練質量沒有講，政治工作要加強這方面的工作。對院校提了一句，不夠。報告就是要有針對性，要抓住重點，抽幾個問題展開講，集中講，講透。報告就是“要講清楚新的條件是什麼，在新的條件下，應該怎麼講紀律，怎麼做思想政治工作，怎麼提高戰斗力，怎麼發揚優良傳統”。
總之，決議、報告就是要解決在新的條件下政治工作怎麼做的問題。鄧小平舉例說，年輕干部到地方比較好安排。“軍隊干部轉業到地方，要作風好，艱苦奮斗，能上能下。要既能管好軍隊，又能做好地方工作”，再加上學習一些相應的本領，這也是新條件下的問題。在新的條件下，“要強調一兵多能，干部多學些本領，轉業以后工作就好安排了，就能較快接上工作了”。軍隊干部如果思想好、作風好，轉業后會做政治工作，會做管理工作，地方也會歡迎。此外，鄧小平還對干部考核與獎懲、整頓作風紀律、政工干部以身作則、把軍隊辦成大學校等問題作了指示。
根據鄧小平指示，會議期間，到會全體同志人人動腦、動口、動手，集思廣益，討論修改決議草案，提出了許多好的意見和建議。爾后，成立了一個由8個大單位負責同志組成的修改小組，集中研究分析大家的意見，從中心思想、內容、結構到文風，都作了較多的修改，再次印發大家討論征求意見。葉劍英和鄧小平在會議上講話后，會議文件又作了進一步修改。最后由韋國清主持召開總政黨委會討論通過，形成給軍委的送審稿。經軍委通過后，由中央批轉全黨、全軍貫徹執行。（摘自《黨史文苑》）
