和趙構、黃潛善、汪伯彥等人形成鮮明對比的是以宗澤為代表的主戰派，當高宗他們南逃的時候，宗澤就力諫高宗移師卞梁，啟用李綱，按照李綱的軍事部署，奮力抗敵。趙構哪裏聽的進去一心隻想往南逃跑。宗澤隻得做好卞梁的防守，希望高宗能回心轉意移師卞梁，他首先從整頓社會秩序、安定民心入手。他下令逮捕勾結金兵、為虎作倀者，然後就地正法，以清除金兵的內應，同時嚴禁盜竊，嚴懲奸商，采取限價政策，並發動群眾疏通汴河，使各地貨物源源不斷運到卞梁。同時恢複“稅鹽製”。由於宗澤理財有方，卞梁很快重現了商旅雲集、貨物充盈、物價平穩、人心安定的繁榮景象。
與此同時，宗澤加緊重建開封防務。他發動群眾修複樓櫓，加固城牆，開浚濠河，修造守禦之具。並把散在開封內外的宋軍組織起來，與正規軍協同作戰。為了對付金國的騎兵，他製造了“決勝戰車”1200輛。宗澤在加強城防的同時，極力擴大防守範圍，在城郊選險要之地，建了24座堅固的堡壘，派兵數萬駐防，沿黃河修築縱橫相聯的連珠寨，分兵把守，同時把開封府瀕河72裏，平攤府屬16縣負責防衛，令挖掘深闊各丈餘的壕溝，溝外密植鹿砦，以防金國騎兵的衝擊。這樣，從開封至黃河南岸建立起縱深的防禦體係，這是有宋以來開封最強固的防衛設施。宗澤又接連上二十幾道奏折，希望高宗還都開卞梁。奏折經三省樞密院轉呈，都為黃潛善扣住不發，並且每見宗澤奏折，都嘲笑他狂妄癡想。
宗澤與李綱一樣充分認識到義軍在抗金鬥爭中起著不可忽視的作用。當時義軍蜂起雲湧，不下百萬之眾。因此宗澤力主高宗下旨招撫兩河義軍，共破敵軍。他曾以逾花甲之高齡，單槍匹馬去擁軍七十萬的王善義營中，勸服王善歸附宋營，為國家立下赫赫功勳。他還派人招撫了楊進三十萬之師，遣王彥的“八字軍”渡河取關。他把這一無比巨大的力量凝聚在一起，以成中興之業。黃潛善又一次從中作梗，他誣蔑義師是盜賊，誣蔑宗澤功高蓋主，還派親信監視宗澤的行動。
宗澤治軍嚴明，體恤將士，有功必賞，有才必舉，對各路宋軍一視同仁，流散在河朔各地的宋軍殘兵迅速團聚到宗澤的旗下，並湧現出許多傑出的將帥。嶽飛就是其中最突出的一位。
嶽飛投奔宗澤，宗澤見他英勇無比，又有謀略。給以500騎兵，要其奮勇立功。嶽飛聽命而行，殲滅了敵人。從此嶽飛就在宗澤部下南征北戰。建炎二年正月，金人大舉入侵，宗澤又大破之，金潰不成軍，盡棄輜重。自此宗澤威震天下，金人畏憚宗澤，都稱“宗爺爺”。由於李綱被高宗驅逐，高宗不移師卞京，在加上奸佞當道、陷害忠良。他悲憤交加，終因憂憤成疾，背上長了個碗口大的癰疽。
宗澤明知自己病重，在世不長，卻還是念念不忘地請求趙構回鑾開封，誓師北伐。建炎二年七月癸巳（十二）日（1128年7月29日）臨終前，他對前來探望的將領沉痛地說：“我以二帝蒙塵，悲憤至此，你們多能殲滅敵寇，那我死而無恨！”他又拉著前來看望他的嶽飛深沉地說道：“我死之後你和張所、傅亮要帶著隊伍保護好卞京，一定要陛下移師卞京啊”。嶽飛含淚地點下了頭。宗澤又不停地念誦杜甫名句：“出師未捷身先死，長使英雄淚滿襟。”聞者無不泣涕。直至斷氣，無一語及家事，惟連呼“渡河！渡河！渡河”而逝。嶽飛和張所護柩至鎮江，與其夫人陳氏合葬於京峴山麓。後贈觀文殿學士，通議大夫，賜諡忠簡。
在國難深重的時候，宗澤的死無疑是南宋巨大的損失。他去世當天，東京人士無不痛哭流涕，千餘名太學生慰問哭奠。有人敘述當時的情景，宗澤去世，剛入棺，士兵便蜂擁而入，吊祭三日不絕，大廳也擺滿了無數祭品，如此深得軍心民心！李綱在貶謫途中聞知傷心欲絕揮筆寫下挽詩：“梁摧大廈傾，誰與扶穹窿”的哀號。而高宗獲悉此事，卻得意洋洋地表示，黃潛善與汪伯彥分任左右丞相，國事何須擔心？