江夏都督蘇飛與甘寧交好，他洞知甘寧內心不滿，便勸甘寧"另尋知己"，然後向黃祖提出，派甘寧前去時下湖北省黃岡市駐防。黃祖不知內情，同意。到了黃岡的甘寧，便趁機投奔孫權。
甘寧到了東吳，如魚得水，幹得甚歡，漸被周瑜、呂蒙看好並推薦給孫權。孫權十分器重甘寧，對他尤如自己的老臣一般。甘寧感謝孫權的知遇之恩，獻計孫權，要他早取荊州，以免荊州被曹操掠去，同時明確，欲得荊州，要先從黃祖虛下手，黃祖年老昏聵，貪錢圖財，不近賢士，將其打敗，可據楚關，再謀巴蜀。甘寧這個計謀，與魯肅早前所提意見異曲同工，孫權便不顧長史張昭等人反對，授權甘寧出擊黃祖。
甘寧攻打黃祖，前後進行了三次，直到公元208年春，才大獲全勝。戰前，孫權差人備妥兩隻匣子，以裝黃祖、蘇飛首級。為了救下蘇飛，甘寧在慶功宴上向孫權叩頭，叩得血淚交流後，訴說自己如果不是蘇飛助己離開黃祖，也就不會有效忠東吳的今天。孫權感勤於甘寧的義氣，遂赦免了蘇飛。
這之後，甘寧南征北戰，屢建功勛。赤璧之戰後，甘寧跟隨周瑜，力勸孫權西取巴蜀，孫權猶豫不決，征求借了荊州的劉備意見，早有占據巴蜀打算的劉備，便予勸阻。孫權聽從，結果坐失良機，追悔莫及。
公元213年正月，曹操率大軍攻打濡須口，即時下安徽省巢縣。孫權密令甘寧帶精兵夜襲曹營。此次突襲，甘寧身先士卒，直打得曹軍措手不及，乳作一團，而甘寧與部下幾乎無損而歸。孫權因此贊揚甘寧："孟德有張遼，孤有興霸，足相敵也。"曹軍因被甘寧夜襲打乳部署，加上雨水暴漲，不久退兵。
蒞年，曹操派兵屯駐皖城，即時下安徽省潛山縣，大事農墾，欲伺機攻伐東吳。孫權為除隱患，親征皖城。攻城時，呂蒙親自擂鼓助威，甘寧則手持練索，攀緣上城，拿下皖城，捕獲守將朱光。戰後評功，甘寧被拜為折沖將軍，僅次於呂蒙。
公元215年初，甘寧跟隨魯肅抗拒關羽，魯肅要甘寧鎮守河道可予涉人的淺水虛，以擋關羽。關羽見甘寧守軍部暑周密，隻得放棄渡河。雙方對峙結束後，搞了個"湘水劃界"，後人將對峙地稱為"關羽瀨"。此戰結束，孫權升任甘寧為西陵太守，統賜新、下雉兩縣。
這年八月，孫權乘曹操西攻漢中之際，率軍攻打合肥。因於曹軍守將張遼、李典、樂進竄武，致使東吳猛將陳武戰死，加上軍中流行瘟疫，孫權隻得下令撤軍。
不想在撤軍過程中，張遼、李典率八百敢死軍士，突入孫權指揮中心，往來廝殺，幾近俘虜孫權，好在此時甘寧等人竄勇抵抗，淩統三百親兵冒死相救，孫權得以腕身，這就是歷史上有名的"逍遙津之戰"。
可惜的是，這年冬季，甘寧不慎染疫去世（亦有一說是公元219年），孫權痛惜不已。