1880年12月31日，喬治·卡特利特·馬歇爾出生在尤尼恩敦。他是家中最小的孩子，上麵有一個哥哥和一個姐姐。老馬歇爾是一家焦炭熔爐公司的董事長，在賓夕法尼亞擁有富煤礦。
馬歇爾小的時候學習不好，考試總得最後一名。他後來承認，9歲時他便認定自己注定是“全班的劣等生”。父親對他很失望，常用柳條鞭管教他。但這也未能使他的學習成績好起來。
老馬歇爾對軍隊情有獨鍾，希望兒子能成為軍官。聰明的長子似乎可以實現父親的夢想，他以優異成績考進著名的弗吉尼亞軍校。但他誌不在軍隊，畢業後卻改行到一家鋼鐵廠當了化學師。父親隻好將希望寄托在小兒子身上，可小兒子不成器。這麼愚鈍的孩子能考上一所象樣的軍校嗎？
這時，馬歇爾突然雄心勃發，一再要求父母送他到哥哥的母校弗吉尼亞軍校。他後來承認，他如此想上軍校，並非因為喜歡軍隊或想穿上軍裝出出風頭，而是因為要勝過他那個自命不凡、百般嘲笑他的哥哥。
1897年9月，16歲的馬歇爾進入弗吉尼亞軍校。他剛入校，便受到老生的“考驗”。老生按例讓他在地板上懸蹲10分鍾，正下方固定著一把刺刀。他剛患過傷寒，身虛體弱，沒堅持幾分鍾便坐到刀尖上，臀部受傷，血流如注。他被抬到醫務所急救，但始終未說出受傷的緣由。他的行為贏得大家的讚許，他受到尊敬，在軍校站住腳。
馬歇爾漸漸喜歡上軍校生活。他一年級結束時當上伍長，兩年後升為隊長。校內舉行的所有重大儀式，他都擔任學生指揮。他聲如洪鍾，麵色威嚴，發號施令極具威懾力。
1901年，馬歇爾以名列第8的優異成績畢業於軍校，年底進入陸軍，次年受領陸軍少尉軍銜並被派往菲律賓。行前他與相愛的美麗姑娘伊麗莎白·科爾斯卡特結婚。新娘患有心髒病，未能與他同行，留在了國內。
這時菲律賓駐有美軍3萬5千人，維持某種“和平”，戰事已緩。年輕的少尉服役兩年，沒有參加戰鬥，但經曆了叢林環境和疫病的考驗。他的老成持重和公正無私很受上級讚賞。
1903年夏，馬歇爾回到美國，被派往俄克拉何馬地區的雷諾堡。妻子身體不好，仍不能與他同行。馬歇爾在雷諾堡的出色表現受到上級注意。1906年他被選進利文沃思堡進修班進修。進修學員都是上尉以上的軍官，他是唯一的少尉。一年後他以名列第一的成績獲得繼續深造的資格。這時，妻子搬到利文沃思堡與他同住。但是疾病使她無法與丈夫過正常的夫妻生活，也無法生育。雖然如此，馬歇爾與妻子一直相親相愛，外人以為他們的婚姻生活完美無缺。
不久馬歇爾晉升為中尉。本世紀初美國軍隊晉升機會極少。馬歇爾帶著這個軍銜一直幹到1916年。這時他已36歲，當了14年軍官，換過幾處駐地，兩赴菲律賓，兩進國民警衛隊。無論在哪裏，他都得到上級誇獎。他肯吃苦，精通兵法，足智多謀，忠誠可靠。但他仍是一個中尉。他的上司哈古德將軍1916年在有關軍官能力的報告中寫道：“馬歇爾理應在常規軍中任準將職，推遲一天任命，軍隊和國家就遭受一天損失。”但是，提升軍官委員會隻是任命了馬歇爾上尉職。
1917年4月6日美國向德國宣戰，站在協約國一邊參加了已延續三年的第一次世界大戰。塞伯特將軍組建陸軍第1步兵師，調任馬歇爾任參謀部臨時中校銜參謀。第1步兵師在潘興將軍的美國遠征軍編內，最先在法國登陸。
在法國前線，作為師參謀部參謀，他的任務是向師指揮所報告前沿陣地的情況，檢查部署和給養狀況，維持部隊士氣。他執行任務一絲不苟，大部分時間是在前沿戰壕裏。他常常一人徒步巡視陣地。他漸漸習慣了炮火，學會了放開膽子趕路。聽到炮彈的呼嘯，他會本能地臥倒在泥地上。他也象其他戰士一樣，最害怕一件事，那就是不知哪顆炮彈會把毒氣撒在自己身上。
馬歇爾因在前沿陣地表現出色，被提升為臨時上校，並調入設在肖蒙的美國遠征軍總參謀部。
1918年11月，第一次世界大戰以德國戰敗而告終。美國遠征軍總司令潘興成為美國和歐洲的英雄。馬歇爾被調到這位總司令的身邊，當他的助手。他陪潘興在巴黎參加了一係列的慶祝活動。