寇準廉潔正直、不畏權勢，很得皇帝的信任，同時也引起一幫人的嫉妒。知樞密院事張遜多次在朝中與寇準爭論政事，二人關係非常緊張。張遜一直想尋個時機懲治一下寇準，以泄私憤。一次，寇準出行時，一個瘋子迎著他的坐騎直呼萬歲，張遜聽說後，立刻以謀反罪彈劾寇準。寇準氣憤至極，在朝中極力為自己辯護，二人唇槍舌劍，後來居然互相指責對方的缺點，進行人身攻擊。太宗大怒，怒斥了心胸狹小的張遜，寇準也被罷為青州知州。
太宗非常熟悉寇準的性格，寇準的仗義執言是其他一些巧言令色的大臣永遠做不到的。所以，寇準離京赴任後，太宗非常想念他，經常向人打聽他的情況，第二年，他又把寇準調到自己的身邊，拜為參知政事。
自唐末以來，西北地區有不少少數民族遷到渭水以南居住，這是各民族融洽相安的一件好事。可宋太宗時，秦州知州溫仲舒卻把遷到渭南的少數民族全部趕回渭北，並且建起了堡壘柵欄限製他們的行動。太宗在看了奏疏後心中非常憂慮，他說：“古代的羌戎還在伊水洛水一帶跟漢族人雜居，那些外族人喜歡流動，不喜歡安定，一旦他們造起反來，整個關中地區就可能被困死了。”寇準說：“唐代的治國賢相宋璟對攻打外族百姓的戰功不予獎賞，終於換來了開元年間的太平安寧景象。而現在有些守邊的將領，為了求取功勞而任意亂為，這樣終究會導致禍亂。這個問題，陛下千萬要警惕啊！”太宗很讚賞寇準的意見，就派他出使渭北，安撫那些被驅趕的少數民族，把溫仲舒改調到鳳翔府任職。
太宗晚年身體欠佳，朝中有人勸他早立太子，他卻勃然大怒，把上奏之人貶到嶺南。其實，確立太子一直是太宗晚年的一塊心病，隻是因為兒子太多，且品德才學良莠不齊，身邊又沒有一個特別信得過的大臣可以商量，所以在確立太子問題上遲遲未決。寇準從青州被召回身邊後，太宗覺得這位耿直果敢的年輕大臣對大宋王朝一片赤心，是最可信賴的，他就把寇準叫到身邊，詢問他立儲之事。寇準說：“陛下為天下選擇君主，這樣重大的事，不能跟婦人、宦官商量，也不能跟近臣商量，隻能由您挑選一個最受天下人敬仰的人。”後來，太宗考慮再三，把壽王趙恒立為皇太子。太子到太廟拜謁祖先回來，滿京城的人都擁擠在路邊歡欣跳躍，對年輕的太子稱讚不已。太宗聽說後心裏不太高興，馬上召見寇準，對他說：“人心這樣快就轉向太子，想把我放在什麼位置呢?”寇準卻祝賀道：“這正是國家社稷的福分啊!”太宗終於想通了，他高興地邀請寇準陪他痛飲幾杯，結果喝了個酩酊大醉。
宋太宗至道三年(公元997年)，太宗駕崩，宋真宗繼位。在此之前，寇準因為一次在朝廷上的爭論觸怒了太宗，被貶往鄧州做知州。真宗繼位後，立刻把他上調回京，不久任命他為同中書門下平章事，位居宰相畢士安之下。
3促駕親征，澶淵退敵
這一時期，宋朝與北方遼國的關係日益緊張。雙方交戰，宋軍多次失利，而遼軍的進攻不斷加劇，準備大規模南侵。麵對遼國咄咄逼人的氣勢，真宗和滿朝文武驚惶失措，毫無良策。危難之際，以英勇果敢著稱的寇準被畢士安等人推上了前台。公元1004年6月，真宗任命寇準為宰相，要他負責解除遼軍的威脅。