1928年，正當國民黨軍隊不斷向北進發的時候，北洋軍閥政府的最後一個統治者張作霖開始慌張起來。張作霖本來是奉係軍閥的頭子。他以日本為後台，控製了東北三省。1926年張作霖趁段祺瑞下台之機，占領了北京。但是，他雖然把日本當作靠山，卻又不是很聽話，有時還與英國和美國勾勾搭搭，給予英美在東北的一些特權。這樣，張作霖與日本人的關係就開始惡化了。
宣布東三省易幟時的張學良眼見北伐軍就要打到了北京，日本人見張作霖已經靠不住，就企圖取代張作霖，直接控製中國北方。1928年6月4日，張作霖乘坐專列返回奉天（今遼寧沈陽），在沈陽皇姑屯被日本關東軍炸死。
張作霖死後，他的長子張學良於6月17日從北京秘密返回沈陽。日本人趁張學良為張作霖發喪之際，向張學良施加壓力，慫恿張學良在東北策劃獨立，建立一個在日本控製下的獨立王國。張學良早就知道了日本人想獨霸東北的野心，他見日本人這樣狂妄無理，非常氣憤，將他們痛斥一頓，雙方不歡而散。
就在這時，國民黨的北伐軍已經占領了天津和北京，除東北外，全國大部分地區都已經統一在國民黨的青天白日旗之下。8月9日，蔣介石派特使來到奉天，勸張學良把代表北洋政府的五色旗換成青天白日旗，歸順國民黨政府，實現全國統一。
張學良早就十分渴望能夠擺脫日本人的統治，全國實現統一。因此，在國民黨的號召下，他派出三人代表到北平與國民黨談判，商議東北易幟、歸順南京政府等問題。在北平，東北代表提出了“南京政府承認東北三省自治”、“享有人事及其他支配權”、“南京勢力不能直接伸入東三省”等作為易幟條件。經過兩個月的往返交涉，雙方終於達成了協議。10月8日，國民黨中央常務委員會議決定任命張學良為國民政府委員，10日，張學良在沈陽正式就任。
1928年12月29日，張學良頂住了日本的壓力，毅然通電全國，“服從國民政府，改旗易幟”。至此，蔣介石實現了形式上的“全國統一”。