原名叶启亨,曾用名叶琛。原籍福建省南安县。1914年5月7日生于菲律宾奎松省一个华侨小商人家庭。1918年归国。1926年起先后就读于厦门中山中学和省立第十三中学。1928年5月加入中国共产主义青年团,年底离校从事秘密革命工作。1929年起任共青团福建省委宣传部部长和代理书记、福州中心市委书记。其间曾被捕入狱。1932年3月转入中国共产党。后到闽东地区参与创建苏区和建立游击队。1934年3月在中共福建省委遭到破坏、与中共中央失去联系的情况下,以特派员的身份,果断地主持召开会议,重建中共闽东特委,并成立中国工农红军闽东独立师。1935年起任中共闽东特委书记、闽东军政委员会主席兼红军闽东独立师政治委员,领导军民坚持了极其艰苦的三年游击战争。其间先后率部在闽浙边取得沙埕、桃杭等战斗的胜利,多次挫败国民党军的“清剿”,并在闽东地区恢复和重建了多块游击区。
抗日战争爆发后,任新四军第3支队6团团长,率部进入皖南敌后开展游击战争。1939年5月奉命率团与无锡、江阴等地游击队合编为江南抗日义勇军,任副指挥。6月指挥夜袭浒墅关车站,使宁沪铁路线一度中断。继于7月下旬突袭上海虹桥日军机场,烧毁敌机4架。后与丹阳游击纵队合编为新四军挺进纵队,任纵队政治委员兼副司令员,旋即北渡长江,在扬州、泰州地区开展抗日斗争,参与开辟苏北抗日根据地。1940年7月任新四军苏北指挥部第1纵队司令员兼政治委员。10月在黄桥战役中,率部适时出击,经3小时激战,全歼国民党顽固派军队韩德勤部独立第6旅,并协同兄弟部队歼灭韩部主力第89军。1941年皖南事变后,任新四军第1师第1旅旅长兼政治委员和苏中第3分区中共地委书记、副师长,参与指挥苏中地区反“扫荡”、反“清剿”和反“清乡”作战。1944年3月指挥车桥战役,以围点打援的战法,歼灭日伪军近千人,打通了与苏北、淮南、淮北地区的战略联系。1945年起任第1师师长兼苏中军区司令员和中共苏中区委书记、苏浙军区副司令员,参与指挥天目山反击战。解放战争初期,任山东野战军第1纵队司令员,率部收复泰安、大汶口,参加胶济路反击战和宿北、鲁南战役。1947年2月起任华东野战军第1纵队司令员兼政治委员、第1兵团副司令员兼第1纵队司令员,率部参加了莱芜、孟良崮、豫东、济南、淮海等重要战役。1949年2月任第三野战军第10兵团司令员。4月参加渡江战役,率部解放丹阳、常州、无锡和苏州。5月参加上海战役后,率10兵团进军福建,先后发起福州、漳(州)厦(门)战役。8月兼任福建军区司令员,组织指挥部队清剿国民党残余武装和土匪。
1953年起任中共福建省委第二书记、第一书记,福建省省长,福建省政协主席,南京军区副司令员,福州军区司令员兼政治委员,中共中央华东局书记处书记。在主持福建省工作期间,与其他领导一起带领广大干部群众,建立了第一批新兴工业基地,并大力发展农业、交通运输、水利电力和文化教育事业。同时致力于巩固海防和加强海上军事斗争,组织指挥了东山岛战斗和炮击金门。1975年1月出任国家交通部部长,全面整顿生产秩序,努力振兴国家交通事业。1979年调任人民解放军海军第一政治委员。1980年1月至1982年8月任海军司令员。
是第一至第三届国防委员会委员,中共第八届中央候补委员、中央委员(1966年递补),第十届中央候补委员,第十一、第十二届中央委员,第六、第七届全国人大常务委员会副委员长和人大华侨委员会主任委员,全国侨联第三届委员会名誉主席。
1955年被授予上将军衔,获一级八一勋章、一级独立自由勋章和一级解放勋章。1988年获一级红星功勋荣誉章。
1999年4月18日在北京病逝。
著有《叶飞回忆录》等。