後來，劉邦登基為皇帝，韓信被改封為楚王。劉邦封自己的長子劉肥為齊王，同時任命曹參為齊相國。當時，齊國是最大的諸侯王國，而且在當時的政治理念中，齊地被視為除關中之外最重要的地域，朝廷總是選擇最為親近的人出任齊地官員。在這樣的背景之下，曹參受命治齊，足以說明劉邦對他依為幹城。在平定陳〖〗、英布叛亂時，曹參以齊相國的身份，兩次率軍平叛，為了穩定漢初政局作出了貢獻。
漢朝是在多年兵劫的廢墟中立國的。麵對滿目瘡痍、百廢待舉的局麵，應該如何治理好國家？最高統治集團起初並無成算在胸。恰恰是擔任齊相的曹參，最早對治國之道進行了有益的探索。曹參做齊相時，齊國是有七十座城邑的大國。齊王劉肥年輕，並無多少治國的才幹，曹參實操國政。他把齊國的長老、諸儒幾百人召集在一起，請教如何才能安定百姓的辦法。僅從這一舉動而言，曹參的政治見識就高出於漢初群臣之上。然而與會者眾說紛紜，使人不知所從。稍後，曹參聽說膠西一帶有一位蓋公，精研黃老學說，於是派人致送豐厚的禮物請他。在與蓋公相見時，曹參虛心求教，蓋公談論的治國之道卻非常簡潔，“貴清靜而民自定”。即實踐黃老學派“無為而治”的政治理論和治國之術，統治者給民眾以休養生息的基本條件，社會自然就會安定。曹參認定蓋公所論的統治方法，最適合於當時的社會需要，於是自覺地將它運用到治理齊國的實踐之中。曹參為齊丞相九年，齊國安定和睦，被人們盛讚為賢相。
蕭何去世的消息傳來，曹參告訴隨從收拾行裝，並說：“我將要到朝廷擔任相國。”自有一番“舍我其誰”的自信和氣概。沒過多久，朝廷使者果然來宣召他入朝。
按照官場常規，新任官員為了博取聲譽，總要在上任之初，就推行若幹不同於前任的措施，此所謂“除舊布新”，俗稱“新官上任三把火”。然而，曹參在眾望所歸，接替蕭何為相國之後，他卻沒有任何的驚人之舉，凡事都不加改變，一切遵從蕭何所確定的規章製度辦事。相國易人，舊政未改，前後相接，渾然一體。曹參似乎無異於在朝政中，打上任何個人的標記。
留意觀察曹參新政，可以發現兩個特點：
其一，曹參選用官吏，不以能幹為標準，而專用“厚重長者”。
曹參從有實際工作經驗的郡國官吏中，選擇了部分不善文辭、謹慎敦厚的長者，任命為丞相的屬吏。此類樸實的官吏得到相國的賞識而出任要職，對於養成務實質直的吏風，是可以有所補益的。而對於官吏中舞文弄墨、苛刻周納，急欲追求名望聲譽的，一經發現，曹參就將他們斥退。因為這些追名逐利的官員，也許不乏能幹之輩，但他們的吏風卻不適應“無為而治”政策的需要，故曹參對他們斷然加以貶抑。