對貴族們大肆殺戮之後，伊凡四世並未罷手，清洗和鎮壓浪潮被沙皇禁軍進一步放大。根據密報，伊凡四世認為諾夫哥羅德暗中和波蘭立陶宛王國勾結，圖謀叛變，於是派禁軍前往該城，大肆進行逮捕和處決，諾夫哥羅德被禁軍血洗一空。
在鞏固自己的皇權的同時，伊凡也開始向周邊地區擴張，以擴張沙皇的版圖。1552年，伊凡四世已經親政六年，在成功推行一係列改革、加強中央集權、穩定內政之後，22歲的沙皇躊躇滿誌，決定繼續祖輩和父輩未竟的擴張事業。他選定的第一個目標就是喀山汗國。
那時候，經祖輩、父輩兩代的大力擴張，俄羅斯實際有效控製的領土麵積已經和現代德法兩國麵積總和相當。領土北起卡累利阿半島，西至普斯科夫-斯摩棱斯克-戈梅利-切爾尼科夫一線，與波蘭立陶宛王國接壤；在西南方和克裏木汗國接壤，邊境線從庫爾斯克、葉列茨一線直至伏爾加河和蘇拉河彙合處；在正南方就是頓河草原，那裏居住著大量各斯拉夫民族、高加索民族和韃靼人組成的哥薩克人，再就是韃靼人建立的諾蓋大汗國和諾蓋小汗國；在伏爾加河流入裏海的入海口處是韃靼人建立的阿斯特拉罕汗國；而向東，就是俄羅斯的老對手喀山汗國。
當時的俄軍裝備了16世紀的大規模殺傷性武器——火炮，相應地也建立了一個新的軍種——炮兵，一躍成為歐洲最強的軍隊之一。經過數年經營，俄軍擁有了數量龐大的火炮。據記載，俄軍每次發動大型戰役，至少要出動上百門大炮。原來在中世紀時期建造的不可逾越的高大堅固的城牆，現在已經擋不住俄軍大炮的轟擊。除此以外，伊凡四世還下令鑄造了重炮，這種大炮竟然重達數噸，每個炮彈的重量達到上百公斤。每當戰場上俄軍炮聲轟鳴，往往能給敵方軍隊造成巨大的心理震撼。
伊凡四世下令鑄造的這批火炮不但威力巨大，而且服役壽命超常。每門大炮的服役年齡長達數十年，個別火炮竟然到17世紀時仍在使用。
喀山汗國事是昔人建立的封建國家，由於地處交通要道，貿易繁榮、土地肥沃、物產富餘。每當莫斯科忙於內亂時，喀山汗國屢屢侵襲莫斯科東部邊境城鎮，主要的侵襲目標就是諾夫哥羅德、維亞特卡、弗拉基米爾、科斯特羅馬等城鎮。伊凡四世決定親征喀山，目的不僅僅是讓喀山俯首稱臣，成為藩屬國，而是徹底征服，把喀山並入俄國領土。為了達到這個目的，伊凡前後共三次出征喀山汗國。前兩次東征因為天氣原因和兵力不足而失敗。
1552年10月份，伊凡四世率軍第三次親征喀山汗國。這一次伊凡四世帶了一支15萬人的龐大軍隊，另外配備了150門火炮。8月下旬，俄羅斯軍隊直逼喀山城下。喀山守軍不過三萬，隻要火繩槍，但喀山軍民不畏，抖擻精神反抗。經過一個月的攻城戰，俄軍仍然不克破城。這時，伊凡想出一計，他命人從城外抓來340人作為人質，押到城下要挾喀山守軍投誠。可喀山守軍拒不投誠。惱羞成怒的伊凡下令在城下處整批人質。隨後，俄軍又發動了更為劇烈的進攻。喀山軍民勇猛不平，誓逝世抗敵。俄軍每行進一步，都要支付很大的代價。最後，俄軍毀壞了地下水道，切斷了喀山水源，並花了10天挖開一條直到城牆底下的200米的秘密通道。俄軍炸毀一段城牆後，衝進城內。10月2日，喀山城終究被霸占。喀山守軍大部分被殺，婦女、兒童被俘，財物被劫，寺宇被焚。喀山汗國被納俄羅斯進的版圖，伊凡四世立即立即自稱“喀山沙皇”。
滅掉喀山汗國是俄羅斯曆史上重大的轉折點，標誌著從此以後俄羅斯力量強於蒙古韃靼人的力量，攻滅喀山之前蒙古韃靼人的力量強於俄羅斯的力量，攻滅喀山改變了俄羅斯人與蒙古韃靼人的力量對比。而且，攻滅喀山汗國，為俄羅斯越過烏拉爾山脈吞並地域遼闊的西伯利亞掃平了道路。為了紀念這次勝利，伊凡四世下令修建一座最完美的教堂，這就是今天的聖瓦西裏大教堂。