1899年12月生，四川江津人。1922年参加旅欧中国少年共产党。1923年3月加入中国共产党。1919年10月赴法国勤工俭学。1924年到苏联学习。次年9月回国，任黄埔军校秘书兼政治教官。1926年7月任中共广东区党委军委特派员，参加北伐战争。1927年“四·一二”反革命政变后被派往上海，协助周恩来将工人纠察队转入秘密活动，同年5月任中共中央军事部参谋长，并参加南昌起义、广州起义，任十一军党代表。

土地革命战争时期，任中共前敌军委书记。1929年8月任中央军委参谋长。1931年底进入中央革命根据地，先后任中国工农红军总政治部副主任，第一军团政委。1932年后任红军东路军政委，参与指挥漳州战役，率部参加第四、第五次反“围剿”。1935年1月在遵义会议上，坚决支持毛泽东的正确主张。

抗战时期，任八路军一一五师副师长、政委，中共中央晋察冀分局书记、军区司令员兼政委。解放战争时期，任晋察冀军区司令员兼政委，中共晋察冀中央局书记，中共中央华北局第三书记，华北军区司令员，中国人民解放军副总参谋长，平津卫戍区司令员，北平市军管会主任、市长，1949年出席全国政协第一届全体会议。

建国后，历任中央军委秘书长兼中国人民解放军代总参谋长，国防委员会副主席，中央军委副主席，国务院副总理兼国家科委主任、国防科委主任，中国老龄问题全国委员会名誉主任，中国发明协会名誉会长。1966年在中共八届十一中全会上增选为中央政治局委员。1977年、1982年当选为十一、十二届中央政治局委员。1975年、1978年任第四、五届全国人大常委会副委员长（1980年辞去第五届全国人大常委会副委员长职务）。是第一届全国人大常委，第二、三届全国人大代表，中共七至十届中央委员。

1955年被授予元帅军衔，曾获一级八一勋章、一级独立自由勋章、一级解放勋章。

1992年5月在北京逝世，终年93岁。