金兀術率軍逃到江北後，一直駐紮在兩淮一帶。宋高宗生怕金兀術一旦緩過勁來，便要重新渡江追擊，於是命知樞密院事兼川陝宣撫處置使張浚在陝西對金軍發動攻勢，予以牽製。張浚立即積極進行軍事部署，召集各路宋軍分道進兵關中，聲言要收複失地。
此時，金太宗增派皇子、右副元帥完顏宗輔（訛裏朵）到陝西，統一指揮陝西軍事。金將婁室率領的西路軍已攻陷陝州，宋將李彥仙在城破突圍後憤恨投河而死。完顏宗輔入陝後，準備會合婁室及北上的金兀術軍，深入陝川，然後從長江東下，侵略東南。
宋川陝宣撫處置使張浚調集熙河路劉錫、秦鳳路孫渥、涇原路劉錡、環慶路趙哲四經略使及宣撫處置司統製吳玠共五路兵號四十萬、馬七萬匹向東挺進，迅速進至富平（今陝西富平北），張浚親自到豳州（今陝西彬縣）督戰。金軍主力到富平，雙方展開大戰。劉錡身率士卒衝鋒陷陣，殺獲頗多，金兀術陷入重圍，大將韓常被射中眼睛，經殊死搏鬥才突出重圍，雙方打得難解難分。接著，金右翼婁室部以鐵騎猛攻宋趙哲軍，趙哲畏死，棄軍逃遁，其軍遂潰，各路宋軍也隨即崩潰。這就是著名的富平大戰。戰後，張浚殺趙哲以正軍紀。
富平之戰是金軍南侵以來遭遇的第一次宋軍大規模的抵抗，也是開戰以來宋軍首次以大兵團主動出擊金兵。雖然最終失敗，但確實如同宋高宗所期望的那樣，有效地牽製了金軍，但關陝之地也因而淪陷，終南宋之世沒有再能恢複。
富平之戰後，張浚退保興州（今陝西略陽），再退至閬州（今四川倉溪東南），命諸將分布隘險、堅壁固守，命吳玠、吳□兄弟退保大散關以東的和尚原（今陝西寶雞南）。當時關、隴六路大都陷於金人之手，而和尚原為金兵入川的必經之地。金將沒立、烏魯折合分兩路進軍，出兵會攻和尚原，吳玠與其弟吳□率軍還擊，四戰皆勝。金兀術親率十餘萬大軍從寶雞渡渭水進攻和尚原，吳氏兄弟用強弓勁弩分番輪射，發箭如雨，連續不斷，金兵稍退。之後，宋軍出兵邀擊，血戰三日，大破金兵，俘虜金兵以萬計。金兀術本人也身中兩箭，不得不剃掉須髯，化妝逃走。這就是著名的和尚原之戰。和尚原之戰是自宋與金交戰以來前所未有的大勝利。
建炎四年（1130年）四月，宋高宗在海上獲悉金兵北撤，才從溫州經明州回到越州，南宋朝廷由此獲得了喘息之機。五月下旬，嶽飛親自押解收複建康時所俘虜的金軍將領到越州覲見宋高宗。這當然不是他第一次見到皇帝，但卻是皇帝第一次見到他。當時嶽飛的上司張俊正打算派嶽飛鎮守江南東路的饒州（今江西波陽），嶽飛認為不妥，上奏說：“建康為要害之地，宜選兵固守，仍益兵守淮，拱護腹心。”宋高宗支持了嶽飛的建議。可見皇帝對嶽飛的第一印象，還是相當好的。
這次覲見後，嶽飛心情也很激動。回到宜興後，他在房東張大年的屏風上題詞說：“近中原〔板〕蕩，金賊長驅，如入無人之境；將帥無能，不及長城之壯。餘發憤河朔，起自相台，總發從軍，小大曆二百餘戰。雖未及遠涉夷荒，討曲巢穴，亦且快國讎之萬一。今又提一壘孤軍，振起宜（興），建康之城，一舉而複，賊擁入江，倉皇宵遁，所恨不能匹馬不回耳！今且休兵養卒，蓄銳待敵。如或胡廷見念，賜予器甲，使之完備，頒降功賞，使人蒙恩；即當深入虜庭，縛賊主碟血馬前，盡屠夷種，迎二聖複還京師，取故地再上版籍。他時過此，勒功金石，豈不快哉！此心一發，天地知之，知我者知之。建炎四年六月望日，河朔嶽飛書。”這既是他的心跡，也是他的誌向。
而張俊回朝後，“盛稱嶽飛可用”。從此，嶽飛開始矚目於南宋朝野。
因越州地理位置偏僻，漕運很不方便，南宋朝廷的大批官員、軍隊集中此地，物資供應無法得到保證。而宋高宗對逃難時曾經停留過的杭州念念不忘，於是升杭州為臨安府，遷都杭州。至此，南宋朝廷初步在東南站穩了腳跟，從風雨飄搖中逐漸走向明朗。
宋高宗擺脫了一味流離逃竄的命運，也開始考慮要采取措施，逐步控製抗金的將領。強幹弱枝、守內虛外曆來是宋朝的傳統，宋高宗自然要重點防範再出現“苗劉之變”的情況。重心對內，對外則打算以投降和苟安來保住半壁江山。不過，他還需要一個幫手。