原名呂正超，字必之。1905年1月生于奉天（今遼寧）省海城縣唐王山后村一個貧苦農(nóng)民家庭。8歲時在本村小學(xué)讀書。1918年到繅絲廠當學(xué)徒。1922年參加?xùn)|北軍。1923年入東北講武堂學(xué)習(xí)。畢業(yè)后，任東北軍第五十三軍連長、營長、少校副官隊長，第一一六師參謀處長，六四七團、六九一團團長。1933年參加熱河抗戰(zhàn)。1936年組織“東北武裝同志抗日救亡先鋒隊”，任總隊長，參加“西安事變”。1937年5月加入中國共產(chǎn)黨?？谷諔?zhàn)爭爆發(fā)后，任冀中人民自衛(wèi)軍司令員，八路軍第三縱隊司令員，冀中軍區(qū)司令員兼冀中行政公署主任，冀中區(qū)總指揮部副總指揮。1943的任晉綏軍區(qū)司令員，中共中央晉綏分局委員。抗日戰(zhàn)爭勝利后，任東北民主聯(lián)軍副總司令兼西滿軍區(qū)司令員，東北軍區(qū)副司令員兼東北鐵路總局局長，東北人民政府鐵道部部長，中共中央東北局委員，中央軍委鐵道部副部長兼鐵道兵團副司令員。中華人民共和國成立后，任中央人民政府鐵道部副部長、代部長，中央軍委軍事運輸司令員，解放軍總參謀部軍事交通部部長。
1955年被授予上將軍銜，并獲一級獨立自由勛章、一級解放勛章。1964年任西南鐵路建設(shè)總指揮部副總指揮、工地指揮部司令員兼政治委員和鐵道兵第一政治委員。1965年任鐵道部部長。1983年6月至1988年3月任政協(xié)全國委員會副主席。
是中共第七屆中央候補委員，第八、十一屆中央委員，第十二屆中共中央顧問委員會委員；第一、二、三屆中華人民共和國國防委員會委員；第一、二、三屆全國人民代表大會代表，第四屆全國人民代表大會常務(wù)委員會委員；政協(xié)第二、三屆全國委員會常務(wù)委員，第四屆全國委員會委員。
2009年10月13日在北京逝世，享年106歲。
