在金軍北撤、張邦昌退位、群臣勸進的情況下，四月下旬趙構感到重建趙宋王朝、繼皇帝位時機已到，遂將大元帥府從躲避金軍的避風港濟州移至南京歸德府（今河南商丘）。副元帥宗澤奉命率部前往南京會合。嶽飛跟隨宗澤部將劉浩騎兵，也到達南京。
建炎元年（1127）五月一日，趙構在南京應天府（河南商丘）稱帝，是年改元為建炎元年，南宋政權正式建立。趙構當了南宋王朝（1127—1279）的第一代皇帝，史稱“宋高宗”。
一、上書遭罷官
趙構一坐上皇帝寶座，臣民感到有了依靠，江山社稷又有了扶危為安的希望。
麵臨新的政治局麵，國家有救的光明前途，嶽飛興奮地說：“陛下已登大寶，黎元有歸，社稷有主，已足以伐敵人之謀，……中原之地指期可複。”他對二十一歲的年輕帝王，寄予很大的希望！
但高宗坐上皇帝寶座後，他首先任命黃潛善為中書侍郎，汪伯彥同知樞密院事。而黃、汪是朝野都知道的投降派。對抗金有功、金人害怕的宗澤，卻任命他為襄陽（湖北襄樊市）知府，不讓他執掌朝政。
稍可安慰人心的是，在三天以後高宗下詔起用被投降派排斥在外的李綱為左相。投降派一聽到這一任命，立即對李綱發動了一場攻擊，有的說李綱“為金人所惡，不當為相”，有的說李綱“有震主之威”。李綱奉詔前來南京後，他對高宗說：“如臣愚蠢，但知有趙氏，不知有金人，宜為所惡。然謂臣材不足以任宰相則可，謂為金人所惡，不當相，則不可。”高宗也隻好撫慰一番，並且把彈劾李綱的一些人貶官。但高宗把鞏固皇位的依靠力量放在投降派身上，因此，當七月間在提升李綱為左相時，馬上把黃潛善提為右相。（〔宋〕李埴《皇宋十朝綱要》卷二十一，建炎元年七月壬寅條。）就這樣，南宋小朝廷一建立，在高宗親自扶植下就形成了一股以黃、汪為首的投降勢力。
李綱一上任，就提出“十議”，即議戰和、議僭逆（指張邦昌）、議偽命（指偽官）、議巡幸（選定指揮抗金的“司令部”所在地）等關係國家大計的十個問題。當時舉國上下同仇敵愾，要求迎還二聖（指徽、欽二帝），複仇雪恥。李綱為首的抗戰派順應民心，與高宗、汪黃集團針鋒相對，堅決主張通過抗金鬥爭收複故疆、迎還二聖，堅決反對靠割地乞和而不使二帝“取禍”的妥協態度。
“迎二聖”，在南宋初，是一個響亮口號，即使投降派也不能把它丟掉。但他們言不由衷，比如高宗趙構，他的內心深處，就怕“二聖”歸來，自己做不成皇帝。抗戰派主張以抗戰的勝利逼使金國送還“二聖”，收複故土，洗雪國恥；投降派反對抗戰，反對招兵買馬，揚言抗金會使“二聖”加速取禍，他們主張派遣使者至金談判，以“迎二聖”。鬥爭結果，高宗采納了投降派的意見，他們不斷派使者赴金進行討價還價的割地乞和活動，高宗甚至不惜把黃河以北領土，拱手讓給金國，以達到屈辱求存的目的。
為了安定民心，高舉抗金旗幟，李綱主張皇帝應當去一趟京師，根據情況再決定遷都。他說：“以天下形勢而觀，長安為上，襄陽次之，建康又次之……”宗澤則主張皇帝應該趕快回到汴京，以安定人心。但黃、汪投降派不但堅決反對朝廷搬回汴京，還反對遷都長安、襄陽，他們主張向東南方後退，以為離金人越遠越安全。他們的主張是符合高宗心意的，因此在七月，他下手詔說：“京師未可往，當巡幸東南，為避敵之計。”
這時敵人正準備著新的軍事行動。中原淪陷區的百姓，日夜焚香祈禱官軍早早到來。可是，正當舉國上下期待著新朝廷能有一番作為的時候，皇帝不僅沒有親率六軍渡河北上，相反，要往南避敵！是可忍，孰不可忍？於是，嶽飛寫了一封洋洋數千言的奏章，這就是《南京上皇帝書》：
陛下已登大寶，黎元有歸，社稷有主，已足以伐虜人之謀；而勤王禦營之師日集，兵勢漸盛。彼方謂吾素弱，未必能敵，正宜乘其怠而擊之。而李綱、黃潛善、汪伯彥輩不能承陛下之意，恢複故疆，迎還二聖，奉車駕日益南，又令長安、維揚、襄陽準備巡幸。有苟安之漸，無遠大之略，恐不足以係中原之望。雖使將帥之臣戮力於外，終無成功。
為今之計，莫若請車駕還京，罷三州巡幸之詔。乘二聖蒙塵未久，敵穴未固之際，親帥六軍，迤邐北渡，則天威所臨，將帥一心，士卒作氣，中原之地指期可複。（《宋嶽鄂王文集》卷一。）
京師南遷，出謀劃策的是黃、汪之輩。李綱雖然提出長安為上、襄陽次之、建康更次之的建都設想，但就李綱本意說，他是反對南遷的。由於當時嶽飛地位很低，他不可能知道李綱在朝廷中鬥爭的全部過程，錯責了李綱。其實，在和戰問題、遷都問題上，李綱、宗澤等抗戰派大臣意見和他倒是基本一致的。這封奏章一上，黃、汪被刺痛了，於是嶽飛受到了“小臣越職，非所宜言，奪官歸田裏”的處分。這個打擊是沉重的。然而，權奸的迫害隻能削掉他的官職，決不能使他彎腰屈膝，隻要祖國仍然處在危急之中，他“從戎報國”的信念決不改變。這年的七月底，他離開了彌漫著和談空氣的南京，渡河北上，昂然走向抗金前線。
二、第四次從軍
嶽飛渡過咆哮的黃河，看到的便是雜草蕪蔓的田野，被金軍焚掠一空的村莊。他滿懷悲憤，熱血沸騰。在路上，他看到了設在大名府的河北招撫司所張貼的招募抗金健兒的榜文，顧不得順路回家看一看老母妻小，就毅然奔向大名府，再去從軍。原來，李綱任相後，就建議高宗在河北設招撫司，由張所任招撫使；在河東設經製司，由傅亮任經製副使，以團結兩河的抗金力量，捍衛河東、河北的國土，使朝廷無北顧之憂。這是李綱和投降派鬥爭的產物。張所原任監察禦史，因向高宗上疏反對京師南遷，指斥“黃潛善奸邪不可用”（《宋史》卷三六三《張所傳》。），被貶職江州（江西九江）。李綱推薦張所任河北招撫使時，估計黃潛善要反對，他從大局出發，事先找了黃潛善交談。黃潛善當麵同意，背後進行搗鬼。當張所在江州剛接到詔書，尚未動身赴任，黃潛善的黨徒已從河北送上奏章，說什麼從設置招撫司以來，河北盜賊愈來愈多，愈來愈凶了，不如撤銷它。這類謊言當然是不攻自破的。
嶽飛來到招撫司衙門，接待他的是幹辦公事官趙九齡。欽宗在位期間，趙九齡任禦營機宜官，那時因軍務關係，已賞識嶽飛了。趙九齡了解嶽飛的經曆和作戰的勇敢，馬上以“天下奇才”，引薦給張所。
張所是愛惜人才、善於使用人才的官員，現在經趙九齡的推薦，知道嶽飛新近觸犯朝廷，已被削職為民，但他卻以“國士”的禮節接待了嶽飛。隻是嶽飛的才幹究竟如何呢？他要親自一試。張所問嶽飛：“聽說你打仗非常勇敢，在三軍中首屈一指。那末，你估量估量自己，一人能抵擋多少敵兵？”嶽飛從容地回答說：“打仗光憑勇敢是不可靠的，指揮打仗首先要有好的謀略決策。謀，是勝負的關鍵。因此，指揮員指揮打仗，不怕他不勇敢，最怕他無謀。如今指揮打仗的人，都愛誇口自己勇力無比。但是，臨陣之前，既無計謀決策在胸，開戰以後，又不知指揮員該往哪兒使功夫，這樣的作戰，自然不能取勝。所以，兵法書上就說，最好的作戰方法，是以智謀取勝，其次是在外交上戰勝敵人。晉國的欒枝，用兵車拖樹枝揚起塵土偽裝逃跑的計策，迷惑楚軍，打敗了楚國。楚國的莫敖屈瑕，用了采樵的計策，打敗了絞國。就是運用了‘上兵伐謀’的兵法取勝的。”
張所一聽，肅然起敬，簡直不相信嶽飛至今還不是一員將領。接著，張所又請嶽飛談談軍事形勢。嶽飛對形勢分析十分精辟，對燕雲利害了如指掌，他說：“如把京師比做人的心髒，那麼河北等地就成了四肢，提兵壓境，盡取河北之地是為了屏藩京師。如果放棄河北，那麼就像四肢斷了，人的性命也危險了。”在這次談話中，嶽飛還表示了誓死報國、抗金到底的決心。
聽了這一席雄才大略的談話，張所感到嶽飛的確是一個奇才！於是，立即把嶽飛從“白身”破格提拔為“準備將”，充中軍統領，撥歸都統製王彥部下當偏裨將。
嶽飛三次從軍，三次都遇到挫折，由於他堅定的保衛祖國的意誌，使他毅然地再作第四次投軍，才碰上了愛才的張所。在那昏君當朝、權臣執政，壯士難酬其誌、良驥伏櫪長嘯的時候，他遇見了“伯樂”，這是他的幸運，也是時代的幸運，在嶽飛的一生和南宋抗金史中具有重要的意義。
由於張所堅持抗金，他的言行就難免遭到投降派的彈劾。當李綱在黃、汪排擠下罷相之後，張所也被加上罪名，流放到嶺南，終於死在流放途中。然而，嶽飛一直沒有忘記這個忠直有識的抗戰將領。人民也沒有忘記張所，因為他忠於抗金事業，培植了嶽飛這樣的將才。
三、渡河戰太行
這時，南京朝廷中實際上是黃潛善、汪伯彥之流掌權，他們反對抗金，阻撓張所、傅亮的抗金活動，還罷了傅亮的官，又唆使張浚等人彈劾李綱。這是因為李綱為激勵愛國士氣，懲辦了叛臣張邦昌等人，還斬決了偽官宋齊愈。李綱萬分氣憤，隻好辭職。高宗立即下詔同意李綱罷相，隨後又把李綱放逐外地。為了向金人乞和，他又下詔統統廢除李綱所經營的一切抗金措施；甚至把上書要求留任李綱、痛斥黃、汪誤國的太學生陳東、進士歐陽澈，綁赴刑場斬首。這一切都是為了配合通問使傅雱赴金營議和的活動。
然而，北方的人民，不甘忍受金軍殘暴的壓迫，掀起了聲勢浩大的抗金鬥爭。在河北，有五馬山寨義軍、範仔領導的起義師等；在河東（太行山之西），有紅巾軍。有一次，紅巾軍在澤、潞之間（山西晉城、長治一帶）襲擊金軍，差一點活捉金西路軍左副元帥粘罕，引起金人恐慌。金軍搜捕不到紅巾軍，隻好大批屠殺平民以泄憤。但這隻能激起人民更大的反抗，投奔紅巾軍的人越來越多，金軍在這一帶站不住腳，也隻好“遷以北去”。