殺了人的宋江不得不走上了逃亡之路，可是，天下雖大，卻沒有他這殺人凶犯的容身之處，隻有一個地方例外，那就是晁蓋等人占據的水泊梁山。逼上梁山之後，宋江憑著自己的恩德、人品和能力，很快成了梁山泊義軍的領導人。他率領梁山泊義軍轉戰南北，攻城奪縣，力量日益增強，義軍所到之處，殺貪官，除惡霸，打土豪，分田地，深受貧苦人民的擁護和愛戴。梁山泊義軍的影響越來越大，並與太行山義軍遙相呼應，附近的官兵聞風喪膽，無人敢攖其風，就連當初緝捕晁蓋等人的警察隊長董平也反水上了梁山。既然梁山泊周圍的官兵已是驚弓之鳥，北宋政府隻得從京城派來精兵良將征討梁山泊義軍。將門之後呼延綽（就是呼延灼）是這次圍剿的主將，副手是剛剛改邪歸正的海盜張橫。
可惜這兩個外來的和尚也念不好經，屢戰屢敗，但他們的確夠堅強，屢敗屢戰。最後，皇帝的忍耐突破了極限，發出了最後通牒，然而結果卻並不是皇帝老倌期望的破釜沉舟、背水一戰，而是呼延綽和張橫反叛朝廷明珠投暗了，宋徽宗搬起石頭砸了自己的腳，也隻有抱著腳丫子喊疼罵娘的份了。
很快，水泊梁山又添了不少新頭領，領軍人物達到了三十六名，這三十六人橫行齊魏，官軍數萬無敢抗者，於是民間有了這樣的說法：來時三十六，去後十八雙。若要少一個，定是不還鄉。
後來，梁山泊義軍不幸在海州（今江蘇連雲港市）陷入了北宋名將張叔夜大軍的包圍圈，在突圍失利和張叔夜循循善誘的情況下，宋江帶領義軍歸順了朝廷。北宋政府雖然沒有背信棄義地殺死義軍將領，但對他們並不放心，為了防止義軍死灰複燃，朝廷把三十六人分派到各地做官，轟轟烈烈的梁山泊起義就這樣失敗了。
梁山泊起義幾十年後被寫入了《大宋宣和遺事》，而這本書中的梁山泊故事就是長篇白話小說《水滸傳》的雛形。
高俅開篇之謎
《水滸傳》中提到的第一個人物是宋太祖趙匡胤，第一個出場的人物是宋仁宗趙禎，但真正作為其開篇人物的卻是奸臣高俅。
金聖歎在評批《水滸傳》時曾做出這樣的論斷：“蓋不寫高俅便寫一百八人，則亂自下生出；不寫一百八人，先寫高俅，則是亂自上作也。”此言一針見血，入木三分，極有見地，但是，施公耐庵為什麼選擇高俅而不是蔡京或者童貫作為開篇人物呢？難道他早在七百年前就預見到了和中國足球有關的某些人會成為廣大人民群眾唾棄的對象。
若論名氣（當然是臭名）和地位，蔡京和童貫其實更有資格代表奸臣來充當《水滸傳》的開篇人物。
就名氣而言，人家老童老蔡是當時流行民謠“打了筒（童），潑了菜（蔡），便是人間好世界”的主人公，還是臭名昭著、人人喊打的“六賊”（另外四個家夥是王黼、梁師成、朱勔和李邦彥）中的首要人物，而且在《宋史》中都單獨有傳，相比之下，高俅則差得遠，不但沒有在民謠中挨罵的份，也沒有得以躋身“六賊”之列，不但沒有自己的傳記，就是在《宋史》的《奸臣傳》、《佞臣傳》裏也沒有他的影兒，關於他的資料隻能到《三朝北盟彙編》和《揮麈後錄》等曆史邊角料裏去找。
就地位而言，蔡京先後四次入相，徽宗在位的二十五年中，他竟然竊據相位長達十七年；童貫則更是了不得，雖出身宦官，卻領樞密院事，任樞密使掌兵權達二十年，權傾內外，時稱蔡京為“公相”，稱他為“媼相”，後更因鎮壓方臘起義有功而被封為太師，再後來又榮升廣陽郡王，成了中國曆史上獲得爵位最高的宦官，也是唯一一個被冊封為王的宦官。而高俅雖然也是高官，位居三公之一的太尉，掌握守衛京城的幾十萬禁軍，但畢竟隻是正二品。比一品的宰相和樞密使要低。
但是，施耐庵最終卻選擇了讓高俅以“亂自上作”的代表身份來充當《水滸傳》的開篇人物，原因何在呢？竊以為，有兩個理由值得考慮。其一，高俅的發跡史頗富傳奇色彩，更適於寫入小說。
《水滸傳》中關於高俅發跡前的描寫基本上和筆記體曆史《揮麈後錄》的記載基本一致，隻是在小細節上有些出入。《揮麈後錄》是南宋時人王明清的作品，而他的外祖父曾紆的父親就是《水滸傳》中的曾布（他的妻子就是和李清照齊名的女詞人魏夫人），所以，這段記載應該是非常可信的。