1982年夏，为适应国内外形势发展、加快军队现代化建设的步伐，中央军委在进行军队体制改革、精简整编的同时，对部队大单位领导班子进行了一次大幅度调整。在这次调整中，中央军委经过慎重考虑，任命刘华清为中国人民解放军海军司令员。中共十二大开幕的当天，邓小平将军委的这一决定告诉了刘华清。
这天，中共十二大在人民大会堂开幕。被选为大会主席团成员的刘华清，一早便提前赶到人民大会堂南大厅等候入场。邓小平从他身边走过时，有意放缓脚步，像是打招呼似的轻声说：“你还是回海军工作。海军问题不少，要整顿！”刘华清不由得一怔，马上意识到：看来海军班子调整，军委已研究过，去海军的事已经定了！
“文化大革命”期间，海军是部队中人所共知的“重灾区”。由于林彪、“四人帮”直接插手，海军部队从思想作风到实际工作，都遭受了严重破坏。特别是海军党委、机关，长期分线划派、矛盾重重，致使许多重大问题议而不决，决而不行。1982年10月，刘华清从海军机关大院作风纪律整顿入手，揭开了海军全面整顿的序幕。
在此后两年多时间里，海军遵照邓小平“海军要整顿”的指示，由机关而部队基层，先后进行了组织整顿、思想整顿、业务整顿、安全整顿、军容和库容整顿。同时，还搞了财务、营房大检查，进行了医院和工厂的整顿。通过整顿，恢复健全了条令条例、规章制度，进一步明确了海军现代化建设的方向、目标，部队精神面貌、实际工作都发生了脱胎换骨的变化。
1983年3月，刘华清抓住部队编制体制调整机会，通过多方工作，力排众议，组织创建了全军第一个专事装备发展研究工作的智囊机构——海军装备论证研究中心，海军装备建设结束了单凭拍脑袋、靠领导经验决策的历史，进入到发挥思想库作用进行科学决策的新阶段。
1985年8月，经报中央军委批准，进行了海军建军以来最大的一次组织体制调整：海军机关在原有司、政、后、装四大部编制基础上增设装备修理部，主管海军舰艇装备维修；舰队，撤销后勤部，主管作战训练、日常管理；基地，转变职能，除负责基地范围内近岸防御外，重点是后勤和技术保障。由此，海军组织体制由原来的海军、舰队、基地、部队四级，变为平行的三级，即作战指挥为海军—舰队—部队，后勤保障为海军—基地—部队，装备修理为海军—基地—水警区。遵此精神，相关部队、科研单位做出调整，同时大幅度缩减了部队员额。
刘华清认为，作为一个海洋大国的海军，中国海军无疑当属“战略军种”。除肩负作战任务外，理所当然应负有和平使命。在这种思想指导下，海军遵照邓小平关于“为人类和平利用南极作出贡献”的指示，于1984年10月派出舰艇、飞机并官兵300多名，参加了中国首次南极考察。此次考察历时142天，舰船编队往返2.3万海里，不仅按照计划圆满完成了中国南极长城考察站建站任务，而且在航渡中组织干部进行了远航实习训练。在此基础上，刘华清部署了中华人民共和国成立以来我国海军舰艇编队首次出访巴基斯坦、斯里兰卡、孟加拉国等南亚国家。这是人民海军建军30多年来编队出访的破冰之行。
经过数年的反复酝酿、精心研究，刘华清于1985年底提出了中国新时期的海军战略：“近海防御”。之后，又通过1年多方征求意见，修改、完善，于1987年2月报中央军委审查批准。从此，中华民族第一次有了明确的海军战略。海军战略的确立，不仅使海军建设进一步明确了方向目标，更唤醒了中华民族久已淡漠的海洋意识，凝聚全社会关注海军、关注祖国的海洋权益，同心协力经略海洋。
在领导部队大刀阔斧整顿、改革，强化教育训练的同时，刘华清怀着高度历史责任感组织编制了《海军2000年前发展设想和“七五”建设规划》《海军2000年装备发展规划》，规划了海军现代化建设的蓝图。在充分论证的基础上，对发展航空母舰、经略南海及军事人才培养等重大课题都拟定了具体可行的方案和措施。
刘华清任职海军后，邓小平多次听取工作汇报，参加关于海军装备发展、海疆斗争等重大问题的研究。对刘华清交出的一张张“答卷”，邓小平非常满意。
1985年8月22日，中央军委副主席杨尚昆，军委副秘书长、国防部部长张爱萍，军委副秘书长、总参谋长杨得志及三总部、军纪委领导出席了海军党委扩大会，杨尚昆、张爱萍、杨得志先后在会上讲了话。杨尚昆说，这次海军体制改革精简整编是海军历史上变动最大的一次。海军这几年工作不错，邓主席有评价，军委的同志也这样一致认为。杨得志说，邓主席主持军委工作以来，海军建设取得了明显进步，这几年的工作又有新的进展，军委、邓主席是满意的。 （摘自《党史博览》 吴殿卿）
