眾多反對勢力間，最使羽柴秀吉擔心的就是德川家康。而對織田家家督之位同樣懷有野心的織田信雄也希望能借重德川家康之力，推翻羽柴秀吉擁立的織田三法師。
1583年底，羽柴秀吉開始修築大阪城。野心勃勃的秀吉決心要建一座比安土城更雄偉的城堡，以彰顯自己比織田信長更偉大的豐功偉績。大阪城選址在攝津藩國，原石山本願寺的廢墟上，占地廣闊，地勢險峻，不但有澱川作為天然屏障，還有人工挖掘的三重護城河。城牆本身由堅固的大石條築成，分內中外三層，最外圍還有一層所謂“總構”的防禦工事，以保護城堡外的民居商鋪等民用設施。大阪城傾注了羽柴秀吉大量心血，工程龐大，以至於到秀吉過世，也還沒完成。
但未完成的“奇跡”並不妨礙羽柴秀吉向世人宣稱他的“偉大”。年底，秀吉要求各路領主到剛剛開始修築的大阪城向自己道賀。這引起織田信雄深深的憂慮。在信雄看來，羽柴秀吉應還是織田家的家臣。如此到大阪城覲見秀吉，無異承認了自己從屬的地位。這是心高氣傲的織田信雄絕對不能忍受的。信雄幹脆地拒絕了秀吉的邀請。
秀吉也敏感地覺察到了信雄的敵意。此時意氣風發的秀吉怎能容忍這不知天高地厚的二世祖？表麵上，秀吉派出池田恒興，蒲生氏鄉為使臣，調停自己和信雄之間的緊張關係，暗地裏，卻在近江三井寺秘密會見了信雄手下的四名重臣：瀧川雄利，津川益冬，岡田重孝和淺井長時。四位重臣在羽柴秀吉的威*利誘下簽了改投羽柴家的誓書。
但是心有不甘的瀧川雄利一回到清洲城就向織田信雄告了密。暴怒的信雄立刻斬殺了另外三名重臣，向羽柴秀吉示威，並同時遣使三河藩國，與德川家康聯盟。（臨陣之前斬殺重臣，怎麼看都像是羽柴秀吉的詭計。說不定就是秀吉指使瀧川雄利散布謠言，騙得輕信易怒的織田信雄還未開戰，就已經斬斷自己左膀右臂。）
早就想染指尾張的德川家康終於等到了這夢寐以求的機會。早在1583年底，德川家康就已探知秀吉和信雄不和的消息，便與領內的一向宗勢力達成和解，煽動他們對抗秀吉，並秘密擴充軍備，為即將到來的龍爭虎鬥作萬全準備。1584年3月7日，應織田信雄之邀，德川家康從浜鬆城起兵8000，號稱3萬，殺進尾張藩國。同一日，家康的使者麵見了長宗我部元親。元親答應一旦統一四國島，便立刻出兵，呼應德川軍。
1584年3月6日，秀吉得知三重臣被殺的消息，立刻下書責問信雄。預知戰爭不可避免的秀吉並於3月11日發布動員令。秀吉命令伊勢近江伊賀三藩國將通往美濃的道路全部封鎖。美濃藩國池田恒興，稻葉一鐵，森長可三部作為先頭部隊攻打尾張。因幡美作備前等各路藩國諸侯按兵不動，以防毛利氏。蜂須賀正勝，黑田孝高，中村一氏等駐守和泉紀伊兩國，防備長宗我部氏和雜賀根來眾。大阪城駐重兵2000。調兵遣將已畢，羽柴軍全軍出動，分西和北兩路殺向尾張。
3月12日，織田軍大將神戶正武500人馬攻打羽柴軍位於伊勢藩國的龜山城。城內駐軍早就被秀吉征調一空，隻剩幾十人守城。城主關盛信急中生智，閉門不戰。等織田軍在城外民居放火之際，全軍突然殺出。煙霧彌漫中織田軍難分敵我，也不知守城軍殺出來多少人馬，紛紛潰逃。
3月13日，德川家康本隊進入清洲城，與織田信雄會師。同一日，美濃的池田恒興率軍由北路突襲尾張境內的犬山城。池田恒興以前曾做過犬山城城主，城內有其培植的內應。兩下裏應外合，犬山城陷落，織田軍守將中川定成戰死。羽柴軍於是將此城作為進攻尾張藩國的橋頭堡。
3月14日，西路羽柴軍也開始行動。大將蒲生氏鄉率軍1萬攻打織田軍要塞峰城。守將佐久間正勝率5000守軍奮戰。無奈此城在前一年羽柴軍討伐瀧川一益的時候已被打得斷瓦殘垣，沒廢多大力就被攻陷了。佐久間正勝羞憤得要自殺，幸被部將勸阻。（佐久間正勝本與其父佐久間信盛一塊被織田信長解雇，流放高野山的。信盛死後，織田信忠赦免了正勝，重新召其為織田家家臣。）
3月16日，趁勝追擊的西路羽柴軍又團團包圍了伊勢鬆島城。羽柴秀吉的弟弟羽柴秀長親自上陣督戰。原織田軍水軍將領九鬼嘉隆也投靠了羽柴軍，率領水師封鎖了鬆島城的出海口。19日，彈盡援絕的鬆島城陷落。
此時西路和北路的形勢都對織田德川聯軍非常不利。
早在3月15日，德川家康就已經認定尾張之北將是兩軍交鋒的主戰場，並親自進駐清洲城之北的小牧山城，與羽柴軍的犬山城僅10公裏之遙。家康還指望能以故主之情說動池田恒興，讓其重新投效織田信雄，卻被池田恒興嚴辭拒絕。（池田恒興作為織田信長的乳兄弟，那信雄怎麼也算是半個侄兒了。如此親情卻還是比不上“時務”兩個字啊。）
16日，羽柴軍大將森長可3000人馬從犬山城出發，進攻小牧山城。德川軍大將酒井忠次接到探馬快報，認為森長可太過冒進，正是打壓羽柴軍囂張氣焰的良機。德川家康批準了酒井忠次的建議。當夜，酒井忠次與榊原康政率5000人馬偷偷溜出小牧山城，繞到森長可軍的後翼。17日清晨，德川軍在八幡林一帶向羽柴軍發動奇襲。猝不及防的森長可後翼部隊大潰，跟著牽累了前軍。森長可雖然奮戰，依然挽不回頹勢。羽柴軍狼狽逃向犬山城。暴怒的森長可打算單槍匹馬衝入德川軍戰死謝罪，被部將們全力阻止。犬山城的池田恒興聞得森長可兵敗，趕緊與稻葉一鐵來援。稻葉一鐵建議在德川軍追擊的必經之路上設伏，待得放過森長可，便可讓使用鐵炮的伏兵圍殲追兵，定可挽回麵子。隻可惜德川軍深知窮寇莫追的道理，並未追趕森長可。池田恒興和稻葉一鐵隻得悵然回城。
羽柴軍雖然折了一陣，但德川家康並沒有得意忘形。深知羽柴軍之強大，八幡林一戰並未能動搖其根本。為了長期抗戰，迎擊羽柴秀吉本部主力，德川家康特命榊原康政加固小牧山城。同時，德川家康命令修築小幡城，以確保小牧山城和老巢岡崎城之間的要衝，並修築比良城，同樣確保小牧山城和清洲城之間的暢通無阻。
果不出德川家康所料，聽到八幡林之戰敗報的羽柴秀吉立刻親率3萬人馬，於3月21日從大阪城出發。3月24日，秀吉本部進入歧阜城，27日，到達犬山城。（下圖為羽柴軍和織田德川聯軍對峙地理位置圖）
羽柴秀吉前腳剛出發，德川軍盟友雜賀眾和根來眾後腳就跟了上來，意圖趁大阪城空虛，偷襲羽柴軍後方。無奈秀吉早就防著這手，特留大將蜂須賀正勝和軍師黑田孝高對付他們。在蜂須賀正勝的奮戰和黑田孝高無雙的計謀下，偷襲部隊無功而返。