其實忽必烈的意思已很顯然，日本人也看出來了，這位野蠻人是在給日本下最後通牒。
日本天皇看到最後通牒，魂飛魄散，但他做不了什麼決定。因為是戰是和的權力掌握在鐮倉幕府手中，日本天皇說，隻是一個虛名，給他進貢而已。而鐮倉幕府卻說，有本事就來，我們不怕！
趙良弼在日本逗留了一年，也沒有得到日本的正麵答複，無奈之下，隻好回到中國，把日本人的冥頑不靈報告給了忽必烈，忽必烈這次真是雷霆大怒了。
公元1273年陰曆四月，高麗有民間武裝直接與朝廷對抗，忽必烈在高麗王的“邀請”下，派出軍隊進駐高麗。這支軍隊由蒙古人忻都、高麗人洪茶丘和高麗將軍金方慶帶領，忻都率軍攻入耽羅島鎮壓林衍後，就於耽羅島設招討司，駐紮鎮邊軍一千七百人，這一招實現了忽必烈的第一個想法：控製了日本與南宋間的海上通道，自己的軍隊可以全力進攻日本。
隨後，忽必烈召忻都、金方慶等至元大都商議征日事宜。第二年（公元1274年）正月，忽必烈命令高麗王造艦九百艘，其中大艦可載千石或四千石者三百艘，由金方慶負責建造；拔都魯輕疾舟（快速艦）三百艘，汲水小船三百艘，由洪茶丘負責建造，並規定於正月十五日動工，限期完成。這一項目給高麗人帶來了巨大的工作量和沉重的負擔，死傷無數，金錢浪費無數。讓忽必烈高興的是，同年六月，九百艘軍艦完工。忽必烈立即下達征日命令，於是，一支由蒙、漢、高麗三族軍隊組成的聯軍，向日本進發。
這支聯軍的核心是蒙古族部隊計有蒙漢軍二萬人、高麗軍五千六百人，加上高麗水手六千七百人，共三萬二千三百人，由征東都元帥忻都、右副帥洪茶丘、左副帥劉複亨統帥。
蒙古軍的戰鬥力是有目共睹的，1274年，聯軍在忻都、洪茶丘、劉複亨三將的指揮下，十月三日從高麗合埔出發，駛向對馬。十月五日逼近對馬島。
日軍反擊。但無濟於事，隻一天時間，聯軍就占領了對馬島。十四日傍晚，聯軍攻入壹岐島。十六日，聯軍逼近了肥前沿海島嶼及西北沿海一帶。
但是，聯軍並沒有在肥前登陸向縱深發展，而是把主力轉移向博德灣。十月十九日，聯軍艦隊進攻博德灣，殺散海濱守軍占領今津一帶。由於今津一帶地形不利於大部隊展開作戰，且距離大宰府（日本的指揮部）尚有一日行程。因此聯軍當晚回到船上，準備次日進攻大宰府。
二十日晨，聯軍兵分四路，展開登陸戰。第一路聯軍從博德灣西部百道源濱海一帶登陸，準備被他們全殲的是昨晚已在此布陣的日本第一線指揮藤原景資所率領的五百騎兵。藤原景是個正人君子，他沒有在聯軍登陸時進攻，而是在聯軍整頓好隊形後，方才按日本當時會戰的慣例（這種慣例是自殺式的，無論對方是多少人，都要在對方準備好後才主動進攻。首先是由一名武士單騎溺戰，衝在前邊，大隊騎兵隨後衝殺）。可想而知，日本軍隊的這種做法開始時讓聯軍嚇了一跳，但一接觸，聯軍發現這些人都是瞎咋呼，他們的“江湖武術”並不能與正規軍隊的作戰技巧相提並論。結局已經可以預料，百道源戰場上，日軍“伏屍如麻”，聯軍很快推進至鹿原。
另一路聯軍的進展卻並不順利，他們負責攻擊百道源西部的赤阪，肥後武士菊池二郎武房率自己所部武士一百三十騎與聯軍展開戰鬥。最高指揮部的藤原經資所率領的武士部隊阻擋住了聯軍的腳步。這部分聯軍隻好向鹿原方向後撤。
第三路聯軍從鹿原及鳥飼一帶繼續登陸，擴大占領地麵。日本北九州各地流氓紛紛保衛祖國，或是趁火打劫。但這些人都無一例外地遇上了聯軍。雙方各有損失。
最後一部分聯軍從博德灣東部箱崎方向登陸，占領岸邊鬆林，從背後夾擊與百道源元軍作戰的日本士兵。該地守軍大友賴泰的武士隊伍經不起蒙古人的夾擊，開始向東南方撤退。由於大友賴泰部隊的撤退，與百道源元軍作戰的日軍腹背受敵，被迫向大宰府水城方向撤退。
二十日，聯軍與日軍激戰了一整天，近傍晚時候，元軍先後占領了博德灣、箱崎等地，日軍被迫全軍撤退，但聯軍堅決痛打落水狗。元軍左副帥、作戰指揮劉複亨殺紅了眼，居然跳下馬來，為了更好地追擊。日本人見到一個穿著與其他人不同的人，猜測到很可能是個頭，就試著向他射了一箭，結果劉將軍中箭，聯合軍被迫停止追擊。日本人才把逃命的步伐減慢。日軍撤退後，沒有來得及逃走的老幼婦女，被俘近一千五百餘人，這些人都被聯軍總指揮下令全部殺掉。
晚上十分，受傷的左副帥劉複亨回到船上，聯軍總指揮蒙古人忻都召集其餘將領討論明天的軍事行動。經過一天的戰鬥，聯軍，包括蒙古士兵都對日本武士的勇猛頗有懼意，這並非是可怕的，可怕的是，在這個島上，到底還有多少這樣的會武術的流氓。劉將軍躺在床上做要死狀，這更讓總指揮喪失了些信心。作為前線最高指揮官，忻都失去了往日的英雄氣概和智慧，他無法準確地判斷出戰爭雙方的形勢。有人建議立即班師，忻都當即表示同意，並將所有士兵撤回船上，準備明天就回家。
遺憾的是，老天不想讓他們回家。
就在這天晚上，博德灣出現了罕見的台風暴雨。加上不熟悉地形，聯軍停泊在博德灣口的艦隊一片混亂，不是互相碰撞而翻，就是被大浪打沉；午夜後，台風漸停，但暴雨又降，加上漆黑一片，士兵們以為天崩地裂了，都紛紛跳船逃命，其實是送死。就這樣，到了第二天早晨，聯軍死亡兵卒達一萬三千五百人。
第二天一早，日軍在大宰府水城列陣，但不見聯軍進攻，派出士兵偵察，才知博德海麵已無船隻，聯合軍撤退了。日本朝野對突如其來的台風趕走敵人十分驚喜，在全國範圍內展開了大規模拜神的活動，稱為“神風”。
事實上，忽必烈第一次發兵東征，主要意圖就是通過武力威脅，迫使日本臣服，並不想占領日本。而總指揮忻都返回中國後為了保住自己的麵子，就跟忽必烈說，蒙古兵已經攻入了日本，並且打敗了他們。現在，是凱旋而歸。
忽必烈相信了，1275年陰曆二月，他派禮部侍郎杜世忠、兵部侍郎何文著等為招諭使到日本招降。但據說，兩人一登陸日本就被扣留，幾個月後即被斬首。
如果說忽必烈是茫然無知，那日本方麵就是膽戰心驚。
日本雖然擊退了元軍，但元軍超級強大的戰力使他們驚魂難定、前途未卜。很多人都認為，元軍會卷土重來。於是日本舉國上下掀起了祈禱運動——求神拜佛祈求保佑日本國。當時在位的龜山上皇寫了許多“異國降伏”的字條到處粘貼，如同巫婆神漢之流撥事鬼道、弄巫術，求神鬼和菩薩保佑。朝廷還特請高僧主持做法事，一連搞了七天七夜。
天皇如此，軍政首腦們自然也不能閑著。軍事領袖真正的“將軍”執權刺血寫經，共寫了《金剛經》和《圓覺經》兩部，求佛祖拯救。至於普通老百姓，則見菩薩就拜，見佛就跪地磕頭。
不過，除了這些精神上的抵抗和自衛外，日本人在現實中也沒有閑著。首先是幕府改革了政治機構，利用戰爭的危機加強了中央對地方的控製，統一了軍事指揮。另外就是修築“元寇防壘”，僅在博德灣沿海，日本人就用石塊修築了一條高約二公尺、寬約三四公尺的“防壘”，即日本式的長城。
但該來的總會來，1279年，從日本逃回的高麗水手向上級報告了杜世忠等人的情況，忽必烈暴跳如雷，此時，南宋已被滅亡，忽必烈決定做第二次征日。
忽必烈命南宋降將範文虎去江南收集張世傑舊部及其它自願從軍者計十萬人，戰船三千五百艘，組成江南軍，由範文虎統帥，從慶元（今浙江寧波）起航，跨海東征日本。另一方麵，命洪茶丘至東北，招募沈陽、開原等地自願從軍者三千，歸洪茶丘統領。那個一旦遇到特殊情況就喪失信心與智慧的前東征總指揮忻都仍統領蒙族軍。考慮到高麗跟日本人的仇恨，忽必烈又任命高麗將領金方慶為征東都元帥，統帥高麗軍一萬、水手一萬五千，戰船九百艘，軍糧十萬石。三軍合計近四萬人，組成東路軍，取道高麗東征日本。
軍事部署完成後，忽必烈於至元十八年（公元1281年）正月，召集兩路征東軍統帥會議，並任命宿將阿刺罕為兩路軍總指揮。會議確定，兩路軍各自擇日出發，於六月十五日至壹岐島會師。同時，忽必烈命令各船攜帶農具，以備占領九州島後做囤田之用。
從這件事就可以看出，忽必烈和他的蒙古軍隊並非是以殺人為業的，他能統一地球四分之三的陸地，還是具備了一定智慧的。
至元十八年（公元1281年）初，元世祖忽必烈征日軍事部署已經基本完成，即將擇日下令出征。恰值此時，高麗王上書朝廷稱日本武士犯邊。於是，忽必烈下令征日大軍出發。五月三日，元軍東路征日軍進攻對馬島的世界村（上島佐賀浦）、大明浦，守島日軍堅決不想活了，頑強抵抗，但他們被全部殺掉。元軍占領對馬島後，大肆殺掠。二十六日，東路大軍進入隱歧島。元軍占領隱歧島後，理應按忽必烈在軍議會上的指示，在此等待江南軍。但是，蒙古人忻都自恃有上次戰爭的經驗，且兵力多於上次，尤其是出於對於南宋降將蔑視的心態，恐怕江南軍搶占首功，因而在沒有對日軍的防禦措施進行偵察的情況下，貿然率軍自隱歧島出發，駛向博德灣。