公元214年（建安十九年）春天，曹操派朱光为庐江太守，屯驻皖城（今安徽潜山），大开稻田，生产军机又派间谍秘密过江，招募诱惑都阳（今江西）的反对孙权的力量，妄图里应外合，进攻孙权。吕蒙得知情报后，向孙权建议：“皖城一带，土地肥美，如果一季收下，曹操的力量势必增强，如果连收几季，必然酿成大患。依我之见，应该立即除掉。”孙权采纳了这一建议，亲征皖城。孙权问计于诸将。大家都说，要攻下坚城，非堆土山，治攻具不可。吕蒙独排众议，说：“堆土山，治攻具，需费很多时日。那比曹军援兵一到，攻下皖城就难了。唯一的办法是强攻，一举拿下皖城。”吕蒙推荐甘宁为升城督。攻城时，吕蒙亲自擂响战鼓助威。甘宁手持练索，身先土卒，攀缘上城，最终攻下皖城，俘朱光。张辽闻迅，率援军而至，到夹石（今桐城北），听说皖城已失，只得退去。战后评功，甘宁功居第二，仅次于吕蒙，被拜为折冲将军。