宣和七年(1125年)，金朝統治者借口宋朝破壞雙方訂立的海上盟約，南下侵掠宋朝。這年十月，金軍分兵兩路，西路軍以粘罕為主將，由大同進攻太原；東路軍以斡離不為主帥，由平州攻燕山。兩路金軍計劃在宋朝首都開封會合。宋徽宗慌忙把帝位傳給兒子趙桓(欽宗)，自己向南逃去。金西路軍在太原遇到軍民的堅強抵抗，無法前進。東路軍南下包圍了開封。
宋朝廷在和戰問題上意見不一。宋欽宗和宰相李邦彥、張邦昌等主張屈辱求和，答應賠款割地。李綱等認為應采取進取之策，皇帝應“親政”。欽宗先後任命李綱為兵部侍郎、尚書右丞、東京留守、親征行營使等，全麵負責首都開封的防務。李綱積極組織軍民備戰，修樓櫓，掛氈幕，安炮座，設弩床，運磚石，施燎炬，垂檑木，備火油，準備了足夠的防守器械。同時在城的四方的每方配備正規軍1．2萬餘人，還有輔助部隊，保甲民兵協助。組織馬步軍4萬人，分為前、後、左、右、中五軍，每天進行操練。靖康元年(1126年)正月八日，金軍到達開封城下。由於當時各地勤王之師紛紛趕來救援首都，李綱親自督戰，幾次打敗攻城的金軍。河北、山東義軍也奮起抗金，形勢對孤軍深入的金軍十分不利，死傷又多，金軍被迫撤退。軍民共同勝利地保衛了開封城。
金兵北退之後，投降派又得勢，李綱被迫離開開封，各路勤王之師和民兵組織被遣散，防務空虛。半年之後，即1126年秋天，金軍又分東西兩路南侵。西路軍攻破太原，乘勝渡河；東路軍攻陷真定。兩路軍圍攻開封，閏十一月二十五，開封城破。
開封雖被金軍攻破，但開封軍民抗敵情緒高昂，他們立即將前一天來議和的金使殺掉。第二天，有30萬人領取器甲抵抗金兵，當金兵欲縱火屠城時，居民百姓欲行巷戰者“其來如雲”，金軍在城牆上慌忙修築防禦工事，以防開封居民將其趕下城去。金軍占領開封達4個月，大肆擄掠後於1127年四月撤兵北去，帶走包括徽、欽二帝在內的全部俘虜和財物，北宋至此滅亡，這就是宋代曆史上所謂的“靖康之難”。
1127年五月，趙構於南京應天府(今河南商丘)即皇帝位，改靖康二年為建炎元年，他就是宋高宗，史稱此後的宋朝為南宋。高宗稱帝之初，迫於金軍威脅的嚴重形勢，不得不起用有重望的李綱為宰相。李綱認為應迅速結合各地抗金力量，收複失地，並推薦老將宗澤留守開封。但當了75天宰相的李綱很快被投降派黃潛善、汪伯彥擠走，抗金措施皆被廢除。
1127年六月，宗澤前往抗金前哨京師充任東京留守。他六月十日接到朝廷任命，立即出發，十七日即到了汴京。宗澤，婺州義烏人(今浙江義烏)。靖康元年初，金兵第一次圍攻開封撤退後，宗澤入京任台諫之職。八月，金兵第二次南侵，他出知磁州(今河北磁縣)，並任河北義兵都總管。他不僅在磁州擊退金兵，還主動出擊，獲取一些戰果，使磁州軍勢聲震河朔。這時，欽宗派趙構(康王)前往金營求和，到達磁州時，宗澤勸阻趙構，使其免當金軍俘虜。金兵第二次圍攻開封時，欽宗任命宗澤為河北兵馬副元帥，協同兵馬大元帥趙構等人救援京師。他力主向開封進軍，並不顧趙構、汪伯彥等人的阻撓，率兵奮戰，多次挫敗金兵，雖由於勢力單薄，未能解京師之圍，但有力打擊了金軍的氣焰。
這次宗澤留守京師，獨當大敵，他更加積極地投入到防衛京城的艱苦鬥爭中。他上任後，立即著手整頓社會秩序，穩定市場物價，疏浚河道，恢複交通。經過努力，在一個多月的時間裏，宗澤就把開封這個經過金兵洗劫，殘破不堪的城市，整頓成為抗金前線的堅強堡壘。在社會秩序初步安定之後，宗澤又著力修建京城防禦設施。在京城四壁，各置統領守禦使臣，隨處設置教場，日夜加緊訓練義兵。根據城外地理形勢，建立堅固壁壘24所，隨其大小，駐兵數萬。宗澤尤為重視黃河防線，沿河防務分給各縣守衛，井在河的南岸設置障礙物，以阻止敵騎突入。沿河走向，依次建立連珠寨，相互支援策應。宗澤總結與金兵作戰失利的原因，即我軍步卒經不住敵騎衝突，往往是一衝即潰。他在總結前人經驗的基礎上，製造了“決勝車”1200輛。其體製是：1人駛車，8人推車，2人扶輪；3人執牌輔車，20人持長槍輔車，18人以神臂弓隨槍遠射，每輛戰車共用55人。每10車差大使臣l員總領，編為一隊。行則為陣，止則為營，專門對付敵人騎兵的進攻。