甘宁“少有气力，好游侠”。但他不务正业，他常聚合一伙轻薄少年，自任首领。他们成群结队，携弓带箭，头插鸟羽，身佩铃铛，四处游来荡去。当时，百姓一听铃响，便知是甘宁这帮人到了。时人以“锦帆贼”称呼他们。

甘宁在郡中，轻侠杀人，藏舍亡命，大有名声。他一出一入，威风炫赫。步行则陈列车骑，水行则连接轻舟。侍从之人，披服锦绣，走到哪里，哪里光彩斐然。停留时，常用锦绣维系舟船，离开时，又要割断抛弃，以显示其富有奢侈。

所在城邑的地方官员或那些跟他相与交往之人，如果隆重地接待，甘宁便倾心相交，可以为他赴汤蹈火；如果礼节不隆，甘宁便放纵手下抢掠对方资财，甚至贼害官长吏员。这种情况，一直持续到他二十多岁。后甘宁不再攻掠别人。他读了一些书，钻研诸子百家之说，想有所作为，便率领八百多人，去依附刘表，留驻南阳。

刘表是东汉末年颇有名气的“八俊”之一，时为荆州刺史。但正如诸葛亮在《隆中对》里分析刘表终不能守住荆州一样，甘宁也发现刘表不习军事，在当时天下不宁、群雄纷争的形势下，终将无成。这时，他听说孙权在江东“招延俊秀，聘求名士，鲁肃、诸葛瑾等始为宾客”，便决定前去投效。

甘宁路经夏口（今湖北武汉），部队不得过，只好暂且依靠江夏太守黄祖。

公元203年（建安八年），孙权领兵西攻江夏，黄祖大败，狼狈逃溃。甘宁将兵为其断后。他沉着冷静，举弓劲射，射杀孙权的破贼校尉凌操。孙军不敢再追，黄祖性命这才得以保全。甘宁立下大功，可黄祖仍不重用，甘宁也想弃之而去，只是没有一条万全的途径，因而，独自忧愁苦闷，无计可施。