安皇帝元興元年（公元402年）
玄以劉牢之為會稽內史。牢之曰：“始爾，便奪我兵，禍其至矣！”劉敬宣請歸諭牢之，使受命，玄遣之。敬宣勸牢之襲玄，牢之猶豫不決，移屯班瀆，私告劉裕曰：“今當北就高雅之於廣陵，舉兵以匡社稷，卿能從我去乎？”裕曰：“將軍以勁卒數萬，望風降服，彼新得誌，威震天下，朝野人情皆已去矣，廣陵豈可得至邪！裕當反服還京口耳。”何無忌謂裕曰：“我將何之？”裕曰：“吾觀鎮北必不免，卿可隨我還京口。桓玄若守臣節，當與卿事之；不然，當與卿圖之。”
於是牢之大集僚佐，議據江北以討玄。參軍劉襲曰：“事之不可者莫大於反。將軍往年反王兗州，近日反司馬郎君，今複反桓公；一人三反，何以自立！”語畢，趨出，佐吏多散走。牢之懼，使敬宣之京口迎家；失期不至，牢之以為事已泄，為玄所殺，乃帥部曲北走，至新洲，縊而死。敬宣至，不暇哭，即渡江奔廣陵。將吏共殯斂牢之，以其喪歸丹徒。玄令斫棺斬首，暴屍於市。
北府兵將領劉牢之曾祖父劉羲，“以善射事武帝，曆北地、雁門太守”。父親劉建，“有武幹，為征虜將軍”。所以劉牢之是武官N代。
我們現在有國家級、省部級、地市級，等等，當時的士族亦然，有大士族、中士族、小士族，王謝郗桓等是一級士族，像劉牢之這樣的應該也是士族，隻不過等級差一些，屬於泛士族。利益集團也是呈金字塔結構的，從皇帝到胥吏、鄉紳分N多級，但是其中有幾個層級是很關鍵的，台階很高，一般人終其一生也爬不上去。現在也是，比如在地方從處級到廳級是一個檻，部隊從校官升少將就是一個檻。在不超過一定年齡的情況下達到省部級，這才敢做政治明星夢。很多官員到一定時間就知道升遷無望了，也就不作他想，就想著在本職崗位踏踏實實再撈幾年。
史書稱劉牢之“麵紫赤色，須目驚人，而沉毅多計畫”。劉牢之“麵紫”不知道是戶外運動多的原因，還是哪兒有毛病，反正不是一般人長相也就不一般。
劉牢之及北府兵在抗擊前秦入侵的戰鬥中功勞大大的，淝水大戰中苻堅之所以有“草木皆兵”的感覺，主要是因為劉牢之率五千北府兵大敗過前秦的先頭軍隊，苻堅氣為之奪。氣勢沒有了，勝利也就沒有了。
南北戰事稍停，劉牢之被迫加入內部的政治鬥爭，先跟著王恭反司馬道子和司馬元顯，結果被策反，孫恩亂起，劉牢之被派出鎮壓孫恩，算是有了用武之地。不過這時北府兵的軍紀壞得很，劉牢之在圍剿孫恩時，縱兵暴掠，士民失望。
桓玄趁機起事，劉牢之又成了桓玄和司馬元顯爭奪的對象。司馬元顯派劉牢之所部進擊桓玄，劉牢之一方麵擔心桓玄少有雄名，不可取勝；另一方麵又不滿意司馬元顯對自己的態度，在前線猶豫不決。桓玄於是趁機派人遊說劉牢之，劉牢之於是再次倒戈。
劉牢之能打仗，但是總是讓上司瞧不起，王恭視其為爪牙，司馬元顯也不正眼瞧他，陣前倒戈後，司馬元顯即敗。歸順桓玄後，桓玄也瞧不上他，隨即奪了他的兵權，任他為會稽太守。劉牢之這個時候又琢磨再反桓玄，他的參軍劉襲說：“事之不可者莫大於反。將軍往年反王兗州，近日反司馬郎君，今複反桓公。一人三反，何以自立。”
劉牢之最後眾叛親離，又誤以為兒子及家人被殺，於是在惶恐中自縊而死。
倒戈將軍劉牢之先後讓王恭、司馬元顯倒黴，頗有當年呂布的性格。呂布處在亂世，天下疑似無主，就像是今天的市場經濟，可以到大公司打工，也可以自己做老板，呂布害了丁原，殺了董卓，逐走劉備……但終究還有相當的自主性，是自己選擇的結果。而劉牢之雖然也處在亂世，但是體製在焉，皇上在焉，始終在國企打工，領導們鬧矛盾，每次都把他當籌碼。先緊跟王恭，後投靠司馬元顯，再後又以桓玄為核心，不是自己不明白，是上麵變化實在快。
在泛政治化的中國，像劉牢之這樣的“職業軍人”，不是沒有自處之道，劉牢之打了勝仗，不過封個龍驤將軍，但是反了王恭以後，作為回報，司馬元顯任命劉牢之替代王恭，都督兗、青、冀、幽、並、徐、揚州、晉陵軍事。這叫“打勝仗不如跟對人”，這種機製一旦運行，專業幹部參與政治派係就勢在難免，專家不研究專業，用專業素養揣摩上意，比搞政工的還政工。
在現代國家，軍隊國家化，軍人職業化，雖然不能說與政治完全隔絕，但對於絕大多數軍人在絕大多數情況下，可以避免“跟風吃屁”。政治上忠於憲法，在行動上可以有自己的底線，比如不左右政治競選，不對本國老百姓開槍，有自己的職業倫理和榮耀；在傳統國家，軍人仍然是政治的一部分，仍然以服從命令為天職，問題是指揮槍的，不可能永遠是偉大光榮正確，所以一旦內部政治鬥爭激烈，就會產生一大批劉牢之式的將領，跟風吃屁，左右失據。新中國成立以來揪出的反黨集團裏麵，就有戰功赫赫的將領。