在他任河南尹的時候，朱溫的勢力越來越大，最後終於發展到代唐自立。朱溫用武力把唐昭宗挾持到洛陽，想廢掉唐朝，建立朱氏後梁政權。但洛陽地區是張全義的勢力範圍，朱溫生怕他反對自己篡唐自立，就事先撤掉了他的河南尹的職務，把他封為東平王，給他換了一個中書令的虛銜。
此時，張全義已是官場老手了，他知道朱溫仍然不相信他，這時候唯一的辦法，是在朱溫自立為皇帝的時候替他出力，取得朱溫的信任。於是，張全義替朱溫出謀劃策，把河南一帶的財力都集中給了朱溫，讓他自由地調度使用。這麼一來，朱溫真的相信張全義了，再加上張全義一再上表辭謝，說自己不配封王，無力擔任中書令的職務，弄得朱溫都有些感動。朱溫當了皇帝後，對張全義加官晉爵，封他為魏王，讓他重做河南尹。
五代時期的確是中國曆史上最無恥的時期，不僅出了像石敬瑭這樣的“兒皇帝”，皇帝們的生活也極其無恥，朱溫就是其中之一。
這位後梁皇帝，到了誰家裏，看見誰家的妻女有些姿色，就硬讓人家陪宿，居然還能不以為恥。作為大臣，張全義也碰上了。一次，朱溫到了張全義的家裏，朱溫竟要張全義的妻子、女兒、兒媳輪流陪他睡覺，張全義的兒子憤恨不過，磨刀霍霍，發誓要殺死朱溫。可張全義不同意，他極力勸阻兒子，並說：“朱溫曾經救過我的命，他要怎樣就讓他怎樣吧！”其實，張全義恐怕不是為了報恩，欲圖報恩，可用別的方式，何必如此呢？其目的還是為了保住官位。
人能委曲求全至此，也可謂有涵養了！
朱溫晚年，最大的對手就是李克用父子，對一批曾與李克用有過關係的人也不放心，張全義就是他要殺掉的目標之一。張全義采取的自救措施還是獻忠心，把洛陽的財力以及自己的家財全都拿出來，支持朱溫對李克用的戰爭，這才使朱溫稍稍氣平。後來，張全義又派自己的妻子去宮中說情，這才打動了朱溫。朱溫讓自己的一個兒子娶了張全義的女兒做媳婦，以示對他的忠誠和好感。
經過反複的戰爭，李克用的兒子李存勖終於打敗了後梁，於923年建立了後唐政權。李存勖早就知道張全義多年來替朱溫置辦軍需品，十分恨他，想把他全家殺掉。張全義也知道自己的處境極其危險，早就做好了準備。他準備了上千匹好馬，送給李存勖的劉皇後，請她幫忙說話，自己又上表請罪，表示願意替他治理洛陽，李存勖覺得他還有用，就赦免了他。
後來，張全義又表忠心，李存勖許多活動的必需品都由他圓滿地置備起來，使得李存勖十分高興。他這種善於體貼巴結的習慣竟然打動了劉皇後，要求拜他為義父。就這樣，李存勖仍讓他做了河南尹，還任他為中書令，封為齊王，又做了李存勖的嶽父，張全義終於又在新朝站穩了腳跟。
後唐莊宗李存勖荒淫無恥，不善治國，隻知重用武夫和名門士族出身的人，不知重用文人和有才能的庶族出身的人，因而後唐很快衰敗下去。在李存勖的晚年，他的養子李嗣源的勢力逐漸變得很大，大有取代李存勖之勢。恰在此時，趙在禮於魏州發動叛亂，張全義為了巴結李嗣源，極力向李存勖推薦他去平定魏州之亂。張全義的用意是很明顯的，李嗣源一旦領兵出征，就會得到兩條好處，一是樹立威信，二是手握重兵，對將來篡奪帝位很有利。如果李嗣源真的當了皇帝，自己豈不又成了新朝的大功臣？但沒想到李嗣源到了魏州，並未與趙在禮開仗，而是與之聯手，共同進攻李存勖。這一下可把張全義這個推薦人嚇壞了，恐怕被李存勖殺掉，他日夜憂懼，連飯也吃不下去，沒過幾天，就病餓而死。就在這時，李存勖也被部下殺掉了。
張全義生於825年，死於926年，活了七十五歲。他倒也未犯什麼十惡不赦的大罪，倒是在治理洛陽時，還有可以稱道之處。我們今天要問的是，難道做官一定要以損害人格為代價嗎？
比張全義還絕的是同一時期的馮道。他生於唐僖宗中和二年（882年），據說他自幼性格敦厚，愛好學習，善於寫文章，不以穿破衣服、吃粗劣的飯食為恥。他的祖先也不是名門士族，據查連一個縣令以上的先人也找不出來。可見，馮道在這樣的家庭出身條件下，想躋身官場，其難度有多大。
唐朝末年李克用割據晉陽，從歐陽修的《五代伶官傳序》裏可以看出，李克用是一個有著雄才大略的人，其子李存勖在滅梁前期，也還是頗有作為的。馮道大概是看到了這一點，才投奔了李存勖，以圖求得前程。經張承業的推薦，馮道成為李存勖的親信，從此踏上了仕途。
馮道起初擔任晉王府中的書記。李存勖看到朱溫建立的後梁政權十分腐敗，就準備滅掉他。晉王和後梁的軍隊在黃河兩岸對峙，戰鬥打得十分激烈殘酷，馮道身為李存勖的親信，能以身作則，率先過簡樸的生活。