建炎元年冬至二年(1128年)春，金軍多次渡過黃河，騷擾瀕河州縣，以及滑州以南的沿河諸寨，做試探性的進攻。宗澤坐鎮開封，從容調兵遣將，多次打退金軍的進攻。宗澤保衛開封的一個突出特點就是沒有坐守孤城，而是打出去。當金軍渡河時，東京留守司有的官吏主張拆去黃河上的浮橋，阻止敵人來犯。宗澤則派統製劉衍開赴滑州，劉達開赴鄭州，各領兵2萬，戰車200乘，打出去牽製敵人。並告誡諸將不得輕動，，要保護橋梁，以待敵軍過河來犯，相機消滅之。金兵見宗澤戒備森嚴，乘夜切斷河梁，以阻止追兵，倉皇逃跑．金軍不甘心失敗，不久，又從鄭州進犯，前軍抵達白少鎮，離京城隻有20公裏左右，宗澤鎮定自若，一方麵安定京城士庶人心，另方麵派遣精銳力量支援劉衍。正月十五燈節之夜，宋軍大敗金兵於板橋，乘勝收複了延津、河陰，胙城等縣，一直追到滑州。劉衍又分兵夜襲滑州西15公裏處的金兵營寨，盡得其輜重糧草。這場保衛京城的戰鬥以宋軍大獲全勝而告結束。
渡過黃河，相機收複河東、河北地區，是宗澤保衛開封的有機組成部分。1128年春天，宗澤在鞏固開封防務的同時，積極聯絡北方抗金義軍，各地農民起義軍，以及若幹支潰兵遊勇，積極作渡河的準備，尤其是六月分，天氣炎熱，金軍兵馬疲乏，正是大舉北伐的良機。這時，王彥的八字軍奉宗澤之命，移屯滑州。五馬山的首領馬擴，也攜帶信王趙榛的信，前來留守司。他們3人共同製定了渡河作戰的軍事計劃：王彥自滑州渡河直取懷、衛、濬、相等州；馬擴等軍由大名府攻打洺州、慶源府、真定府；楊進、李貴、王善、丁進等部都分頭並進，與兩河義軍約定時日，裏應外合。另外，宗澤自到開封後，先後向高宗上了24道奏疏，懇請他“回鑾”東京，鼓舞士氣，號召軍民報國仇、複故疆。
此時年已古稀的宗澤，滿懷對宋朝的忠心，日夜盼望朝廷批準他的渡河作戰計劃和高宗回鑾的請求。但左等右等，杳無音訊，隻好深長地歎息道：我的心願恐怕難以實現了。終於，他心力交瘁，憂憤成疾，終於一病不起。將領們前來探望，宗澤勉勵他們奮勇抗金，完成自己未酬的壯誌。死前一日，念及未竟事業，長吟“出師未捷身先死，長使英雄淚滿襟”的詩句。臨終時，沒有一句話提及家事，隻是大聲疾呼：“過河!過河！過河!”
開封城內軍民聽到宗澤去世的消息，奔走相悼，太學生撰文祭奠，工商為之罷市。宗澤任東京留守一年來，氣勢正盛的金軍的幾次進攻，均被打退，取得了開封首次陷落以來少有的勝利，充分說明了宗澤的抗金主張和抗金措施收到了成效。
建炎二年(1128年)七月宗澤死後，宗高宗派杜充繼任東京留守，他的所作所為與宗澤完全相反，宗澤招撫的抗金義軍紛紛離之而去。東京戰守形勢也急轉直下。