原名張端緒。1910年1月9日生于四川達(dá)縣羅江口鎮(zhèn)張家溝。1925年在達(dá)縣中學(xué)讀書時(shí)積極參加學(xué)生運(yùn)動(dòng)和農(nóng)民運(yùn)動(dòng)。1926年加入中國共產(chǎn)主義青年團(tuán)。1928年轉(zhuǎn)入中國共產(chǎn)黨。1929年在四川、上海從事秘密工作，曾任中共支部書記、縣委委員。同年12月赴江蘇如皋參加中國工農(nóng)紅軍，在第14軍歷任排長、政治指導(dǎo)員、營長、大隊(duì)政治委員。1930年冬起任共青團(tuán)閩西特委常委、宣傳部部長，中央局秘書長，江西省委常委、宣傳部部長，少年先鋒隊(duì)中央總隊(duì)長，中華蘇維埃共和國中央候補(bǔ)執(zhí)行委員。曾編輯團(tuán)中央機(jī)關(guān)報(bào)《青年實(shí)話》，主編少先隊(duì)中央總隊(duì)部機(jī)關(guān)刊物《少年先鋒》。1934年春入中國工農(nóng)紅軍大學(xué)學(xué)習(xí)，同年秋起任紅3軍團(tuán)第4師團(tuán)政治委員、師政治部主任。長征中先后任紅3軍團(tuán)第11、第13團(tuán)政治委員，率部參加奪占婁山關(guān)、攻克遵義城、堅(jiān)守老鴉山等戰(zhàn)斗。到達(dá)陜北后，任軍委騎兵團(tuán)政治委員。1936年夏入抗日紅軍大學(xué)學(xué)習(xí)，畢業(yè)后任抗日軍政大學(xué)教員。
抗日戰(zhàn)爭初期，任中共江浙省委軍委書記、豫皖省委書記、八路軍武漢辦事處高級(jí)參謀。1939年7月調(diào)任任八路軍、新四軍皖東北辦事處處長。12月任新四軍第6支隊(duì)第4總隊(duì)總隊(duì)長兼政治委員，率部與八路軍南進(jìn)支隊(duì)、蘇魯豫支隊(duì)一部挺進(jìn)蘇皖邊區(qū)敵后開辟抗日根據(jù)地。1940年8月任八路軍第5縱隊(duì)第3支隊(duì)司令員。1941年皖南事變后，八路軍第5縱隊(duì)改編為新四軍第3師，任第9旅旅長、3師副師長兼蘇北軍區(qū)副司令員。1944年9月任新四軍第4師師長兼淮北軍區(qū)司令員，指揮所部進(jìn)行了打破日偽軍蠶食、擴(kuò)大解放區(qū)的多次戰(zhàn)斗，并在日本投降前展開大反攻，收復(fù)蘇北大片失地。解放戰(zhàn)爭初期，任華中軍區(qū)副司令員。因在指揮作戰(zhàn)中負(fù)重傷，赴蘇聯(lián)治療。1949年回國后參加渡江戰(zhàn)役，并奉命組建華東人民海軍，任華東軍區(qū)海軍司令員兼政治委員，創(chuàng)辦《人民海軍報(bào)》和《海軍畫報(bào)》，為人民海軍的創(chuàng)立做出貢獻(xiàn)。后任第7兵團(tuán)兼浙江軍區(qū)司令員、華東軍區(qū)暨第三野戰(zhàn)軍參謀長，參與指揮解放浙江沿海島嶼。
1954年8月任浙東前線司令員兼政治委員。1955年1月成功地組織了人民解放軍首次陸海空聯(lián)合登陸作戰(zhàn)，解放一江山島，為人民解放軍的現(xiàn)代化聯(lián)合渡海登陸作戰(zhàn)積累了寶貴經(jīng)驗(yàn)。同年秋出任人民解放軍副總參謀長。后兼國防工業(yè)辦公室副主任，國防科學(xué)技術(shù)委員會(huì)副主任、主任，國家科委第一副主任，中央軍委科技裝備委員會(huì)主任，領(lǐng)導(dǎo)戰(zhàn)略武器和常規(guī)武器的研究、試驗(yàn)與生產(chǎn)，成功地組織了中國第一顆原子彈爆炸試驗(yàn)。1975年后，排除江青反革命集團(tuán)的干擾，整頓國防科研事業(yè)和國防工業(yè)，領(lǐng)導(dǎo)并組織中遠(yuǎn)程、洲際、潛地核彈道導(dǎo)彈和偵察通信衛(wèi)星的研制與試驗(yàn)工作。在擔(dān)任國防科學(xué)技術(shù)和國防工業(yè)領(lǐng)導(dǎo)期間，經(jīng)常深入科學(xué)試驗(yàn)第一線調(diào)查研究，及時(shí)協(xié)調(diào)和解決研制工作中存在的各種矛盾和問題，對(duì)發(fā)展和改進(jìn)我軍現(xiàn)代化武器裝備，特別是戰(zhàn)略導(dǎo)彈力量和航天事業(yè)的建立與發(fā)展做出重要貢獻(xiàn)。1980年后，歷任國務(wù)院副總理、國務(wù)委員兼國防部部長、中共中央軍委副秘書長。
是中共第八屆中央候補(bǔ)委員(1958年補(bǔ)選)，第十一、第十二屆中央委員，第一至第三屆國防委員會(huì)委員。1987年被選為中共中央顧問委員會(huì)常務(wù)委員。
1955年被授予上將軍銜，獲一級(jí)八一勛章、一級(jí)獨(dú)立自由勛章和一級(jí)解放勛章。1988年獲一級(jí)紅星功勛榮譽(yù)章。
2003年7月5日在北京逝世。
主要著作收入《張愛萍軍事文選》(1994)。出版有《神劍之歌——張愛萍詩詞、書法、攝影選集》(1992)、《張愛萍墨跡》(1995)。
