1907年8月10日生于湖南会同坪村乡枫木树脚村。侗族。1926年加入中国共产主义青年团。1927年5月参加叶挺为师长的国民革命军第24师,任教导队班长。同年6月转入中国共产党。参加了南昌起义和湘南起义。曾任中国工农红军第一军团的连长、营长、支队长、师长、军参谋长,第七军团参谋长等职,参加创建中央革命根据地的斗争和历次反“围剿”。1934年7月起,参与指挥红军北上抗日先遣队,转战闽浙皖赣边,任挺进师师长、闽浙军区司令员,在国民党统治的腹心地区开辟浙南游击根据地,挫败了国民党军多次“围剿”,在与中共中央失去联系的情况下,坚持了极其艰苦的3年游击战争。抗日战争爆发后,任新四军第2支队副司令员,先遣支队司令员,新四军江南指挥部、苏北指挥部副指挥。协助陈毅开辟江南、苏北抗日根据地,参与指挥黄桥等战役战斗。皖南事变后,任新四军第1师师长(后兼政治委员)、苏中军区司令员兼政治委员、苏中区党委书记,领导苏中军民挫败日伪军频繁的“扫荡”、“清乡”,坚持和巩固了苏中抗日民主根据地。1944年底任苏浙军区司令员兼政治委员 、苏浙区党委书记。日本投降后,任华中军区副司令员、华中野战军司令员。1946年,同谭震林一起指挥了苏中战役。山东、华中野战军会师后,参与指挥宿北、鲁南战役。1947年1月,任华东野战军副司令员,在陈毅领导下,负责战役指挥,进行了莱芜、孟良崮等战役。后和陈毅指挥华东野战军外线兵团,与刘(伯承)邓(小平)、陈(赓)谢(富治)大军密切协同,挺进中原。陈毅到中原局和中原军区工作期间,他任华东野战军代司令员、代政治委员,指挥了豫东战役 。同年9月,组织指挥济南战役。11月起,任中共淮海前线总前委成员,参与指挥淮海战役,直接指挥华东野战军作战。1949年1月,任第三野战军副司令员,参与指挥渡江战役,组织指挥上海战役。南京、上海解放后,兼任华东军政委员会副主席。
中华人民共和国建立后,任华东军区暨第三野战军副司令员、人民解放军副总参谋长、总参谋长,国防部副部长,军事科学院副院长、第一政治委员,中共中央军委常务委员。1955年被授予大将军衔和一级八一勋章、一级独立自由勋章、一级解放勋章。
是中共第七届中央候补委员,第八届至第十一届中央委员。1982年被选为中共中央顾问委员会常务委员。当选为第五届全国人大常委会副委员长。
1984年2月5日病逝于北京。