宣和二年十二月，“京東賊宋江等出青、齊、單、濮聞”。此處稱“京東賊”，而北宋京東路其實就是以山東地區為主，隻在其西麵包括今河南、江蘇與山東交界的很少一些區域。其中，青州治今山東益都，齊州治今山東濟南，單州治今山東單縣，濮州治今山東鄄城，所以其基本活動範圍還是在山東。可以說，起義軍橫掃青、齊、單、濮一帶，勢如破竹。但是在沂州（今山東臨沂），為蔣圓的伏兵所敗。蔣圓雖然戰勝宋江，卻也“益其多才”，就是承認宋江確有不俗的才能。
宣和三年二月，“淮南盜宋江犯淮陽軍，又犯京東、河北，入楚、海州”。此時稱“淮南盜”，北宋的淮南路包括今江蘇、安徽及河南南部的一些地區，淮陽軍治今江蘇邳縣東，楚州治今江蘇淮安，海州治今江蘇連雲港西南海州鎮，說明起義軍在運動戰中有向南方發展的趨向，或者說是其戰略方向有所轉變。南下的一路上，也把官軍打得暈頭轉向，所謂“轉略十郡，官軍不敢嬰其鋒”。但在海州沭陽戰敗，後又中張叔夜的埋伏，起義軍估計損失不小，於是在張叔夜的說降下，宋江接受朝廷招安。
上述也隻是一個大概的猜測。從短短幾年時間中，宋江一夥橫行河北、山東、淮南等一大片地區，說明其應以流動作戰為主，沒有以梁山泊為“大本營”。然而從在海州曾奪取官府大船作為大本營，說明其有水戰的習慣，似乎完全可能在梁山泊一帶活動過，上述有關地方誌和口傳史料也留下一定痕跡，但究竟規模如何？待了多長時間？恐怕也隻能是曆史之謎了。起義軍受招安後，其前景就更說不清楚了。
那麼，後人為什麼對宋江起義以梁山泊為“大本營”如此感興趣呢？梁山泊或稱梁山濼，古稱钜野澤，綿亙數百裏，確為當時京東巨澤。據《續資治通鑒長編》、《宋會要輯稿》和《宋史》“蒲宗孟傳”、“許幾傳”、“任諒傳”等載，梁山泊在北宋就是著名的“盜藪”。整個北宋時期，梁山泊這一帶的農民起義幾乎史不絕書，如天禧中“盜寇所伏”，慶曆中“京東賊大者五七十人，小者三二十人”，皇祐中“寇盜群起”，元祐中“梁山濼多盜，皆漁者窟穴也”。尤其是北宋末年，這裏農民起義更是層出不窮，“梁山濼漁者，習藝為盜”，官府的鎮壓也極為殘酷。《夷堅誌·蔡侍郎》說，蔡居厚知鄆州時，有“梁山泊賊”五百人投降，都被他殺了。蔡居厚是政和八年（1118）由鄆州卸任的，殺降應還要早於此年，有人以為他殺的就是宋江一夥之人，不知根據何在？可見人們把梁山泊作為農民起義的根據地是有道理的。
最早記載宋江起義三十六好漢有關情況的，大概是南宋末年的那部平話《大宋宣和遺事》。其描述宋江是從九天玄女廟中所得“天書”上看到這三十六人的姓名，他們是；智多星吳加亮、玉麒麟李進義、青麵獸楊誌、混江龍李海、九紋龍史進、入雲龍公孫勝、浪裏白條張順、霹靂火秦明、活閻羅阮小七、立地太歲阮小五、短命二郎阮進、大刀關必勝、豹子頭林衝、黑旋風李逵、小旋風柴進、金槍手徐寧、撲天雕李應、赤發鬼劉唐、一直撞董平、插翅虎雷橫、美髯公朱同、神行太保戴宗、賽關索王雄、病尉遲孫立、小李廣花榮、沒羽箭張清、沒遮攔穆橫、浪子燕青、花和尚魯智深、行者武鬆、鐵鞭呼延綽、急先鋒索超、拚命三郎石秀、火船工張岑、摸著雲杜千、鐵天王晁蓋。最末一行還有：“天書付天罡院三十六員猛將，使呼保義宋江為帥。”這可說是世人最早有關宋江三十六好漢的整體記載，可能也應算較為接近曆史真實的一個檔案材料。
與其差不多時間的另一個資料，是宋末元初學者周密的《癸辛雜識》，其續集上收有宋末元初畫家龔聖與所作《宋江三十六人讚》。其序謂：宋江事跡見於街談巷語，然不足采著。自己年少時欽佩其為人，想作一些畫讚之類，但未見有關事實的記載，不敢輕易下筆。後看到《東都事略》中的《侯蒙傳》，他曾奏盲“宋江以三十六人橫行河、朔、京東，官軍數萬無敢抗者”諸語，才知宋江之輩真有非凡事跡存於當時。由是，龔聖與開始搜集有關資料，終於完成此三十六人畫讚，人為一讚，估計參考過《宣和遺事》的記載。