1946年6月，蒋介石大举进攻中原解放区，发动全面内战。8月至翌年1月，与刘伯承先后组织指挥了陇海、定陶、鄄城、滑县、钜（野）金（台）鱼（乡）等战役。

1947年5月，任中共中央中原局书记。6月30日，同刘伯承率晋冀鲁豫野战军主力，强渡黄河，发动鲁西南战役，揭开了人民解放军全国性战略进攻的序幕。8月，同刘伯承率野战军主力，千里跃进大别山地区。在国民党军重兵围攻中坚持了大别山斗争，把战线推进到长江北岸，在中原地区站稳了脚。

1948年5月9日，任中共中央中原局第一书记、中原军区及中原野战军政治委员。5月，与刘伯承发起宛东战役。7月，与刘伯承发起襄樊战役。9月至翌年1月，人民解放军进行了辽沈战役、淮海战役、平津战役，摧毁了蒋介石赖以维持其反动统治的主要军事力量。11月16日，中共中央军委决定由刘伯承、陈毅、邓小平、粟裕、谭震林组成总前委，邓小平任书记，指挥淮海战役。淮海战役共歼灭国民党军55万人。

1949年2月5日，中原野战军改编为第二野战军，任政治委员。3月，参加中共七届二中全会，后任中共中央华东局第一书记。3月31日，为总前委起草《京沪杭战役实施纲要》。4月至5月，同刘伯承、陈毅等指挥渡江战役，解放南京、上海及苏、皖、浙、赣、闽等省广大地区。