彼時劉曜任相國、主管軍事，手握兵權在長安鎮守。聽聞靳準叛亂，親自率領軍隊由長安出發赴平陽，行至赤壁（今山西河津市西北的赤石川），遇到了從平陽出逃的太保呼延晏與太傅朱紀。他們勸劉曜稱帝，劉曜也不推辭，自立為帝，改元光初，當時石勒駐守河北，劉曜封石勒為大將軍，同石勒成犄角之勢，進攻平陽。
石勒進攻平陽小城，平陽大尹周置等率雜戶6000投降，巴及羌、羯等部10餘萬落也相繼投降，石勒把投降的人遷移到自己管轄的郡縣內。不久，劉曜派征北將軍劉雅、鎮北將軍劉策統兵與石勒一起討伐靳準。靳準看對方勢大，派侍中卜泰到石勒那裏請求講和。石勒與劉曜都有招安的想法，便將卜泰關進囚車，送給劉曜。這一舉動讓平陽城內本不想歸降的將士們心灰意冷，士氣大挫。
劉曜暗中與卜泰結盟，讓卜泰入城招降其他將領。還托卜泰轉告靳準：“劉粲是亂倫的無道昏君，他殺得有功無過。隻要靳準肯投降，不但不治他的罪，還要給他記上一功。”
公元318年十二月，卜泰返回平陽(今山西臨汾)，轉達了劉曜的意思。可是靳準心裏清楚，劉曜的親族都是被自己所殺。如果投降，隻怕是凶多吉少。因此，雖然堂弟靳明與侄子靳康催他投降，他卻一直猶豫不決。靳準的態度讓投降心切的族弟和部將們動了殺機。