正在這時，兗州發生了反對曹操的叛變。曹操聞訊，急忙撤軍，趕回兗州。
這次叛亂正是曹操的好友張邈發動的。此前大力支持曹操的有鮑信、張邈以及衛茲，現在鮑信和衛茲已經戰死，唯一剩下的張邈卻發動了反叛，曹操實在是難以想通。
曹操東征陶謙時讓陳宮帶領部分將士留守東郡，陳宮性情梗直剛烈，因為曹操殺死了好友邊讓而感到很憤慨。
此刻的陳宮還是當初在中牟放過通緝犯曹操的陳宮，然而他心中的曹操卻不是當初的那個曹操。
陳宮認為曹操不搞好諸侯間的關係，然後利用自己的聲威和兵將去攻打李傕恢複漢室，反而攻擊陶謙縱兵危害百姓，這實在是陳宮所不能接受的，於是他想推翻曹操的統治。
於是，陳宮想到了一個新的人選，這個人誅殺了董卓，而且在長安的時候屢屢勸阻王允，更重要的是這個人威猛無匹，有能力擊敗李傕、郭汜，這個人就是呂布。
陳宮開始行動了，他勸說陳留太守張邈道：“此前的邊讓等陳留名士僅僅因為看不慣曹操屠洗徐州發了幾句牢騷就被曹操誅殺殆盡，禍及妻兒。
這些人都曾經和咱們有過密切的往來，曹操放過您和我僅僅是因為我在中牟救過他的性命而您又一直支持和援助他。
現在他招呼不打一聲就殺掉了您治下的這些名士，我恐怕咱們的功勞也有抵消殆盡的時候。現在袁紹和曹操聯盟，您是曹操的部下，而袁紹又非常的怨恨您，這並不能排除將來牽扯到一些利益的時候曹操會拿您開刀的可能。
況且我的誌向是輔佐有能力的明公，竭盡自己的心力輔助他以使其有能力救回獻帝，恢複漢室，不知道孟卓你是怎麼想的！”
張邈認為陳宮說的對，此前他那顆產生了動搖的心，被陳宮給徹底說動了。於是問陳宮道：“那您有什麼好的主意嗎？”
陳宮回答：“當今雄才四起，天下分爭，您擁有那麼寬廣的土地和眾多的兵士，處於四麵受敵的處境，撫劍四顧，也可稱得上是人中豪傑，卻反而受製於人，不是有損身份嗎？
今天兗州城裏的軍隊東征，城內空虛，呂布是位驍將，善於打仗，勇往直前，如果暫且將他迎來，共同占據兗州，我們集聚實力，觀察形勢，總有一天會抓住機會迎回皇帝的！”
張邈以前結交過呂布，知道他的武勇，很讚同陳宮的主意，於是和他的弟弟張超、兗州從事中郎許汜、王楷共同商議背叛曹操的計劃。又令陳宮去西邊迎接呂布進入兗州，讓他做了兗州牧。
張邈和陳宮在兗州的統治已經有十多年了，尤其是在陳留郡和東郡，有著深厚的影響力，因此他們一起來反對曹操，立馬郡縣皆應。隻有兗州治所鄄城（今山東鄄城）以及東郡的兩個屬縣東阿和範縣，還在曹操手中。同時，鄄城內還有不少將領與張邈通謀，形勢對曹操來說十分危險。
呂布聞訊大喜，這陳留就在洛陽東麵，離長安亦不遠，的確是起兵的好地方。況且，兗豫為天下之中，自己能得陳宮、張邈扶持，光複漢室那不是指日可待？