曹參和蕭何原來都是秦朝末年沛縣（今江蘇沛縣）的小官吏，後來跟著劉邦起兵反秦。在帶兵打仗時，他倆立了不少功。可是曹參得到劉邦封給的爵位和賞賜卻遠遠不如蕭何。為此，曹參心裏免不了有些不痛快，加之在一些事情上同蕭何有意見分歧。本來是要好的朋友，關係也慢慢疏遠了。
劉邦做皇帝後，蕭何當了開國丞相。為了輔佐劉邦，蕭何開始整理前朝文獻，特別是秦朝的文獻，並大力調查當時的民情、風俗、戶口等等，在此基礎上主持製定了漢朝的法規、典章和製度。
劉邦死後，漢惠帝繼位。此時，蕭何也病得隻剩下一口氣了。漢惠帝親自去看他，請他推薦相國人選。蕭何胸懷寬闊，不計私怨，以大局為重，還是推薦了曹參。
曹參繼承了蕭何的相國職務，他要求官吏們，一切按前相國的章程辦事。雖然他沒拿出新招來治國，但對那些油腔滑調、舞文弄墨或沽名釣譽的官員，堅決換掉，並選拔了幾位忠誠老實，對蕭何製定的政策積極擁護，又有實踐體會的人來做他的助手。由此，有人在漢惠帝麵前說曹參不精心策劃治國，不出大力氣工作。
有一天，漢惠帝同曹參議論起了這件事。曹參說：“請問皇上，您跟先帝比，哪個英明呢？”惠帝說：“我年輕，哪比得上先帝！”
曹參又問：“要談治理國家的謀略，我與蕭相國相比，皇上您看哪一個賢明呢？”
惠帝微笑著說：“恐怕你比不上蕭相國吧？”
曹參乘機懇切地說：“皇上說得完全對，皇上比不了先帝，我不如蕭相國。那麼，先帝和蕭相國平定了天下，製定出的政策，難道我不應該好好地繼承下去嗎？還能隨意去更改嗎？”
根據這個故事，人們引用“蕭規曹隨”這個成語，比喻遵循前人的規定辦事。