秀吉臨死前任命了五大老和五奉行，五大老分別是德川家康、前田利家、宇喜多秀家、上杉景勝和毛利輝元。五奉行分別是前田玄以、淺野長政、增田長盛、石田三成和長束正家。這些人在秀吉臨死前都寫下了誓死效忠秀賴的誓詞，並按了手印。
秀吉安排完了這些事宜，於慶長三年（1598年）八月十八日，在伏見城去世了，享年63歲。豐臣秀吉臨死前還留下了一首詩：
朝露消逝如我身，世事已成夢中夢；朝露消逝世猶存，空留惆悵無限情。
秀吉的遺書內容如下：
秀賴之事，再三拜托五大老，務使其順利成長，詳情已另有交代，特留此書，別無任何遺憾。
此致
家康（德川）
利家（前田）
輝元（毛利）
景勝（上杉）
秀家（宇喜多）
家康身為五大老的首席，秀吉相當於把孩子和天下都托付給了他，家康深感責任重大。
一代重臣就此遠去，其妻北政所、側室澱君和年幼的秀賴都傷痛欲絕。五大老經過一番商議之後，公推前田利家在大阪擔任秀賴的監護人，而身為五大老首席的家康則在伏見城執政。五大老和五奉行一同重新向秀賴呈遞表明忠誠的誓文。
當時酒井忠次、大久保忠世、本多作左衛門都已相繼去世，正信成了家康最親密的心腹。秀吉去世，家康成為五大老之首，本多正信對家康說：“主公，天下終於屬德川家了。”
家康也毫不避諱地回答說：“我也這麼認為。除我以外，沒人能治理天下。”他又不無感慨地對正信說：“我受信長公的信賴，和信長公結為盟友，這15年來，我甘願屈居農夫出身的秀吉之下，全是為了等待這一天的到來。”家康好像在長久的黑暗之後終於看到了曙光，長久以來的失意、絕望、困難都將成為過去，統一全國的願望很快就要實現了。
激動過後，家康意識到前方的道路還是很漫長的。還有建設新城江戶的工作尚待完成，真正治理天下的日子還不知何時才能到來，平靜下來的家康還是有許多問題要處理。正在這時，石田三成突然出現在他麵前，這個人是五奉行中最受秀吉信賴的，石田認為家康有篡奪天下的野心，所以一直對家康密切關注著。
39歲的三成就已經是近江（位於今滋賀縣）佐和山的城主，領有糧餉很多，據說真正的實力在百萬石以上。不過近年來他也樹敵不少，由於深受秀吉賞識，三成常借秀吉之力壓製別人。素來敵視石田三成的，有被稱為豐臣七虎將的加藤清正、福島正則、加藤嘉明、池田輝政、黑田長政、淺野幸長、細川忠興等。
石田三成知道自己人緣不好，得罪了不少人，於是就極力拉攏毛利輝元、上杉景勝、宇喜多秀家、大穀刑部、增田長盛、小西行長、長束正家等，企圖擴大自己的勢力，最終達到掌握大權的目的。不過三成的野心並不是像家康那樣想統一天下，他是希望在表麵上仍奉秀賴為主君，由自己掌握實權。
豐臣家的明爭暗鬥已經不是一兩天的事了，從前分為北政所派和澱君派，七虎將屬北政所派；三成等人則屬澱君派。看似風平浪靜，實際上卻潛伏著一股暗流。石田三成近來的態度日益囂張，使得家康也不得不注意，但家康本人卻不願卷入這種紛爭當中，然而那些人卻不讓他安寧，翌年，也就是慶長四年（1599年）一月中旬，突然傳來消息，家康的首席大老的職務要被撤銷了。
這是由石田三成、前田利家和其他大老及奉行共同商議決定的，當使者到家康處宣布的時候，家康勃然大怒：“什麼？要撤去我大老的職務？”