至和二年（1055），57歲的包拯在陝西出任轉運使時，舉薦鳳翔鹽稅、柳州軍事判官盧士安。後來盧士安出了事，包拯因薦舉官員不當，受到降職降級處分，由刑部郎中降為兵部員外郎，由蘆州知州調任池州知州。原來，仁宗並不想處分包拯，是包拯自己要求處罰。這是包拯進入仕途的第一次也是唯一一次失誤。然時僅八個月，仁宗又恢複了包拯刑部郎中之職，由池州調到江寧府（今南京市），江寧是江南東路的政治中心，從池州小郡調到江寧，是很令人豔羨的升遷。雖然有翰林學士歐陽修、宰相文彥博等人的推薦，但從中也可以看出仁宗皇帝對包拯的信任和倚重。嘉祐元年（1056），包拯知江寧還不到半年，便又接到調令，權知開封府。
開封府號稱“天府”，俗稱東京開封府，天子腳下重地，絕非等閑之職，一向由親王或有威望的重臣出任，宋太宗和宋真宗當皇帝之前，都曾經以親王的身份當過開封府尹。因此，後來的大臣知開封府，前邊都要加上一個“權”字，稱“權知開封府”，以示不敢僭登先王之位。能夠權知開封府，便成為朝廷執政官的人選，有望晉升宰執，成為朝廷股肱之臣。
開封府舊製，“凡訴訟不得徑造廷下”，也就是說，申訴人不能直接走入大堂上遞狀紙，而必須先將狀紙交給守門的府吏，由府吏轉呈。是否審理、什麼時候審理，要等候府吏通知。府吏有了這樣的特權，便營私舞弊，敲詐勒索，貪汙受賄，不送錢財便有冤難申。包拯到任之後，立即革除弊政，“開正門，徑使至庭，直言曲直”，“民徑自趨至尹前，無複隔閡”。這一做法給了百姓極大的方便，連兒童在街上玩耍鬥鬧，也到開封府說理去。
包拯在開封府並沒有審理過什麼大案要案，真正讓朝野震動、讓百姓熟識這位“包龍圖”、“包待製”的，是他治理惠民河。
惠民河從蔡州流經開封，又稱蔡河。由於“中官勢族侵占河地，構築園榭，致使河塞不通”，一遇暴雨便泛濫成災，威脅京師。包拯上任之後，即令拆毀所有占地跨河的豪宅大院、亭台水榭，以通淤塞，以泄水勢。這一雷厲風行的舉措，讓高官勢族措手不及。他們明裏不敢反對，便偽造地契，暗中勾結。沒想到包拯早已派人丈量驗證，分辨真偽，一本奏疏，直達朝廷。在確鑿的證據麵前，高官勢族再也無話可說，隻好接受懲罰。此舉令包拯威名大震，“貴戚宦官為之斂手，聞者皆憚之”，也讓開封“童稚婦女亦知其名”。街頭巷陌童稚傳唱：“關節不到，有閻羅包老。”意思是說，誰有冤情沒錢打官司，就去找包拯，包拯像閻王爺一樣公正無私。因為閻王爺是黑臉，包拯的臉黑由此而來。
嘉祐二年（1057）三月，包拯權知開封府，嘉祐三年（1058）六月，提升為禦史中丞返回朝廷，在開封府任職僅一年兩個月。這短短一年兩個月，開封府便成為包公傳奇的批量產地，老百姓“禦賜”給他“龍頭鍘、虎頭鍘和狗頭鍘”，讓他去審郭槐，鍘陳世美，斬魯齋郎，還賦予他日能審陽、夜可審陰的超人本領，讓他死後走上了神壇。
繼包拯權知開封府的人，是著名的文學家、政治家歐陽修。歐陽修治理開封府的方法，與包拯大相徑庭，截然不同。包拯是嚴刑峻法，以威嚴為治；歐陽修卻是崇尚寬簡，文雅細致。二人的政績都十分卓著，史載：“二公之情性雖異，而輔世匡時，安民察吏，其公忠之心則一也。”後人在開封府門前照璧的東西兩端，各建一座小牌坊，左書“包嚴”，右書“歐寬”，表示對兩位北宋名臣的敬仰。