孔子與山西的關係，至少應該從孔子與晉文公的關係講起。晉文公是稱霸中原的政治人物。孔子生活的春秋末期，雖然距離晉文公稱霸的年代已有百年，但晉文公及其霸業的社會影響，顯然並沒有消失。
晉文公是晉國曆史上最有作為的君主之一，他奪得君位的曆程千辛萬苦，一直為後人津津樂道，為各行各業的人們所取法。更重要的是，在他那個時代，晉文公繼承了齊桓公提出的“尊王攘夷”的政治口號，為華夏文化在最艱難時期的發展奠定了堅實的基礎。也許正基於此，孔子雖然對晉文公的政治業績和處世之道有所批評，但從整體上講還是肯定了晉文公的政治和文化貢獻。
晉文公在公元前628年去世，而孔子出生於公元前551年。孔子成人時，距離晉文公“尊王攘夷”的時代已有百年。孔子本是好學之人，更喜歡從曆史中汲取思想營養，所以，盡管晉文公稱霸已是往事，但還是深深地吸引了孔子的目光，讓孔子從各個方麵議論和探討晉文公霸業的得與失。
晉文公稱霸的過程，史籍中有許多記載。盡管在細節上不乏誇張之處，但還是從各方麵記載了這個艱難的曆程。晉文公的稱霸既然主要是由“尊王”和“攘夷”兩大曆史任務組成，而此時的周天子已近乎形同虛設，所以，當晉文公像模像樣地率領諸侯朝拜周天子之後，周天子無論是出於傳統禮節，還是個人的感激，都要對晉文公的功績有一些實際的表彰和感謝。其中的一項，就是把屬於周天子的地盤，一個叫做“原”的地方賞賜給了晉文公。但是，出乎晉文公預料的是，原地的人們卻不願意接受晉國的統治，原因不外乎兩種，一是不能接受由天子之民降為諸侯之民，二是認為周天子被逼無奈才讓出了原地。這兩種原因，都有可能使原地之人心裏無法平衡，不能一下子心甘情願地接受新主人的統治。
據記載，因為原地之人不願意接受晉國的治理，就沒有打開城門迎接晉文公，晉文公隻好決定以武力攻取原地。可能是身為霸主的晉文公覺得原地勢單力孤，所以，出發時隻讓晉軍攜帶了十天的幹糧，還當眾宣布，十天之內肯定攻占原地。沒想到，原地之人拚死抵抗，到了約定的第十日，晉軍未能攻入原城。見此情狀，晉文公隻好鳴金而退，率兵撤離。而就在這個時候，有從原城中逃跑出來投降的士兵供述說：“原城的人們隻能再堅持三天了。”獲知這個情報後，群臣都勸晉文公說：“原城已經食竭力盡，還是等幾天再撤兵吧。”而晉文公則說道：“我與士兵們有出征十天的約定，如果不能按約定好的期限撤兵，就證明我是個言而無信之人。得到原地，卻失去信用，我是不會做這種事情的。”在晉文公的堅持下，攻打原地的晉軍最終撤退而去。但出乎預料的是，晉文公的守信之舉卻感動了原地之人，他們認為，有了這樣守信用的君主，我們為什麼不去追隨呢？於是，原地之人歡歡喜喜地投降了晉文公。後來孔子就說過：“民無信而不立。”（《論語·子罕》）意思是說，如果沒有人民的信任，一個政府就不能立得住。反過來說就是，一個有信用的政府，才會得到老百姓的擁護。而在晉文公和孔子的時代，諸侯國的君主與該國的政府原本就是一回事。
晉文公以信用攻取原地的這個故事，曆史記載中有多種版本。不論晉文公的撤兵之舉是一種以退為進的謀略，還是攻城失利，遵循了“言而有信”的原則，都是在表麵上以守信為說辭，使自己在輿論上贏得高分，因為當時的晉文公最需要天下輿論的同情和支持。但是，當孔子在讀史中見到這段往事時，卻堅持了儒家式的看法。孔子發表言論說，晉文公之所以能夠得到原地，完全是遵守信用的結果。相關史籍中會記載孔子這樣的言論，自然是因為在孔子的思想中，守信和忠信思想占有崇高的地位。特別是在其政治原則中，孔子更相信誠信的號召力。
在另一則有關晉文公持守忠信原則的記載中，同樣有孔子的評論。這一則記載說，在晉國和楚國的“城濮之戰”的決戰前夜，就如何打敗楚國的策略問題，晉文公向大臣舅犯和雍季問出了相同的問題，即：“吾將與楚人戰，彼眾我寡，為之奈何？”在敵眾我寡的形勢下，晉人對楚人應該采取什麼策略。舅犯主張，雖然一般來說君子應該持守忠信，但在兩軍陣前的特殊場合，采取詐偽之道也是允許的，所以，他主張以詐道對付楚人。但雍季卻認為，以詐道應對，隻能獲得一時的利益，而想持續獲利就不可能了。麵對截然不同的兩種策略主張，晉文公最後采用了舅犯的詐偽之謀與楚人決戰，並取得了勝利。但是，歸國後論功行賞時，晉文公卻優先獎勵了雍季。對此，群臣都很疑惑，認為城濮之戰完全是遵照舅犯的謀略取勝的，為什麼舅犯的功勞卻在雍季之下？對此，晉文公首先批評了眾人的短淺見識，接著進一步解釋道，舅犯的主張隻能取得一時的勝利，而雍季的主張卻能夠為晉國帶來長久的利益。