一戰
1917年4月6日美國向德國宣戰，站在協約國一邊參加了已延續三年的第一次世界大戰。塞伯特將軍組建陸軍第1步兵師，調任馬歇爾任參謀部臨時中校銜參謀。第1步兵師在潘興將軍的美國遠征軍編內，最先在法國登陸。
在法國前線，作爲師參謀部參謀，他的任務是向師指揮所報告前沿陣地的情況，檢查部署和給養狀況，維持部隊士氣。他執行任務一絲不苟，大部分時間是在前沿戰壕裏。他常常一人徒步巡視陣地。馬歇爾因在前沿陣地表現出色，被提升爲臨時上校，並調入設在肖蒙的美國遠征軍總參謀部。
1918年11月，第一次世界大戰以德國戰敗而告終。美國遠征軍總司令潘興成爲美國和歐洲的英雄。馬歇爾被調到這位總司令的身邊，當他的助手。他陪潘興在巴黎參加了一系列的慶祝活動。
和平歲月
1919年9月1日，馬歇爾隨潘興將軍凱旋美國。得勝回朝的將士們受到一片熱烈的歡迎之後，一切歸於平靜。馬歇爾戰時臨時上校被取消，仍當他的上尉。他留在了潘興手下任職，不久晉升爲正式少校。這次晉升並未使他高興，只是使他感慨，他當了整整18年的軍官，還只是少校而已。
1921年8月，潘興將軍出任陸軍參謀長。馬歇爾作爲首席助手隨他到華盛頓赴任。這次他又升了一級，領中校軍銜。1923年潘興任滿離職。馬歇爾決定到野戰部隊任職，以充實自己。1924年秋，他被派到美國駐中國天津(時值北洋政府時期)的第15步兵團副團長。1926年底，他被任命爲陸軍學院教官，返回華盛頓。1927年11月，他的妻子病逝。
本寧堡步校是美國陸軍最大的軍事學校，坐落在佐治亞州哥倫布市數英里之外。馬歇爾是出色的教官，能夠三言兩語概括複雜的軍事問題。他對學員要求很嚴格。他督促他們，鼓舞他們，激發他們的熱情。從步校出來的許多出類拔萃的將領都把自己日後得以攀上軍階高峯：歸功於馬歇爾。馬歇爾在步校建立了一個學員檔案，把他認爲有才華的青年軍官的名字一一記在上面。後來馬歇爾擔任陸軍參謀長之後，這個檔案便成了無價之寶，他常據此選派指揮官。
1932年底，馬歇爾調到斯克雷文堡帶兵，隨後又被任命爲伊利諾斯州國民警衛師的師長(受到排擠，一般認爲加入了國民警衛隊即遠離了正規作戰部隊，後在潘興等人的幫助下才始回正軌)。1936年8月，55歲的馬歇爾由中校正式晉升爲准將。
1938年夏，馬歇爾准將被任命爲陸軍部副部長。1939年9月1日，美國總統羅斯福(1882～1945)任命馬歇爾爲陸軍參謀長，正式授予他少將軍銜，暫領上將軍銜。他上任的第3天，9月3日，第二次世界大戰爆發。(關於開始時間，中國的歷史書上是以1939年9月3日英、法被迫對德宣戰爲全面爆發時間。注：是全面爆發，沒有具體開始時間。如：在歐洲各國都以1939年9月1日德國進攻波蘭爲開始時間。在亞洲中國和朝鮮和韓國等國專門研究二戰的學者一致認爲開始時間是日本1937年7月7日進攻盧溝橋。在非洲國家都認爲二戰開始時間是1935年10月3日，意大利突然進攻埃塞俄比亞軍隊。在前蘇聯國家一致認爲開始時間是1941年6月22日德國突然進攻蘇聯。而美國單方面認爲二戰時間是1941年12月7日，日本海空軍突然襲擊美國珍珠港。但全世界都有一個統一的結束時間1945年9月2日，日本政府在美國戰艦“密蘇里”號的甲板上向美國、中國、英國、蘇聯等簽署無條件投降書。此後，第二次世界大戰結束。)
二戰
第二次世界大戰爆發後，美國沒有馬上參戰。國內有人主張全力避免戰爭，有入主張積極參戰。馬歇爾將軍認爲，無論願意與否，美國必然要捲入戰爭。而他作爲陸軍參謀長，積極備戰更是責無旁貸。他支持羅斯福總統的援英戰略。他認爲英國人是在爲美國贏得準備時間。
1941年12月8日，日本襲擊珍珠港(參見珍珠港戰役)，太平洋戰爭爆發，美國終於捲入戰爭。珍珠港事件使許多軍隊領導人受到處分，但對馬歇爾的職位未造成影響。他受到質詢和責難，但沒人想到要撤換他，也不再有人對他就美國參戰的主導設想表示異議。爲了適應戰爭，馬歇爾上任不久便着手對軍隊進行了整頓。他提出一長串應當退役的軍官的名單。這些軍官並非無能，而是因爲年事已高，思想大多囿於第一次世界大戰的經驗，甚至有人還用美西戰爭時期的方式思考問題。馬歇爾認爲應該是吐故納新的時候了。他自己也提出要辭去職務，因爲他與被自己開革的大多數軍官是同代人。他向總統明確表示，自己這個61歲的老人理應讓位給後來人，他們能更好地應付美國面臨的挑戰。總統批准了馬歇爾所列的退伍軍官的名單，但堅決留住了馬歇爾。
馬歇爾需要精力充沛、年富力強的軍官填補空缺，但遍數全國各個駐地，這樣的軍官並不很多。這時馬歇爾的那個檔案發揮了作用。檔案裏又添了一些新名字。其中有年輕的上校艾森豪威爾。他在路易斯安那州的模擬戰中是第3軍參謀長，曾展現出卓越的策劃才能，大挫對手的銳氣。第3軍軍長克魯格將軍稱他“目光遠大，不拘陳規，對於軍一級指揮問題的重要性具有深刻了解，積極主動，足智多謀”。由於艾森豪威爾表現出色，克魯格建議給他晉級。馬歇爾觀看了路易斯安那州的演習，對艾森豪威爾印象至深。回華盛頓後，他立即保薦艾森豪威爾升任准將，並將他調到自己的作戰處任副處長。
巴頓在馬歇爾的檔案上也榜上有名。馬歇爾對他的評語是：“喬治帶兵所向無敵，無往不勝。但要緊緊勒住他的籠頭。”1941年馬歇爾讓他指揮了一個裝甲軍團。後來巴頓帶兵打仗，屢立戰功。
1942年初，美英兩國商定在北非登陸，打擊德軍。馬歇爾爲這次代號“火炬”。的戰役進行了積極準備。他指派艾森豪威爾將軍出任盟國北非遠征軍總司令，全權指揮這次戰役。他與艾森豪威爾商量，選中喬治·巴頓指揮美軍特遣隊在卡薩布蘭卡附近登陸。同時，他還把奧馬爾·布萊德雷推薦給艾森豪威爾。布萊德雷很快便證明他是美軍有史以來最富才幹的將領之一。他曾是艾森豪威爾的同班同學，在本寧堡當過馬歇爾的下屬。馬歇爾極其讚賞布萊德雷的指揮才能，曾打定主意，一旦美軍發動大規模戰役，即委以重任。後來艾森豪威爾很快就將第2軍交給了布萊德雷。再以後布萊德雷指揮了越來越多的軍隊，爲打敗法西斯德國立下赫赫戰功。
1942年7月下旬，美英兩國聯合參謀長委員會開始在倫敦擬定“火炬”作戰的具體方案。經過長時間的爭論，並在羅斯福和邱吉爾的干預下，於9月20日達成一項折衷方案，確定在摩洛哥的卡薩布蘭卡和阿爾及利亞的奧蘭、阿爾及爾3處同時登陸。登陸日期最後定於11月8日。
英美盟軍按期於11月8日天始實施“火炬”登陸作戰計劃(參見北非登陸戰役)登陸成功。經5個月的激戰，盟軍於1943年4月9日集中優勢兵力發起總攻。
英軍第8集團軍自南向北進行突擊，美英聯軍自西向東發動進攻，經過18天的戰鬥，分別攻佔了突尼斯城和比塞大港。被擠壓在這一地域的25萬德意軍隊走投無路，只有投降(參見突尼斯戰役)。至此，德意在北非的部隊全部被肅清，非洲戰場的戰事以美英的最後勝利而結束。
美英盟軍在北非登陸之後，美英兩國便開始考慮下一個主要戰略行動方向了。1943年1月14日至24日，羅斯福與丘吉爾率兩國軍事首腦在卡薩布蘭卡舉行會議，商討軍事戰略問題。馬歇爾將軍極力主張橫渡英吉利海峽，從法國北部攻入歐洲大陸。丘吉爾不同意。會議未能就此作出決定，實際是將進攻西歐的計劃推遲實施。會議最後決定以在西西里登陸爲作戰目標。
1943年7月10日，盟軍在西西里登陸(參見西西里戰役)，8月中旬佔領全島。隨即向意大利本土進軍，很快進逼羅馬，在納粹控制的歐洲取得立足點。但是盟國決策者和一般公衆在想到光復歐洲時，並不是把目光放在地中海地區，而是着眼於法國、荷蘭、比利時等國，以及德國本身。大家都知道，只有英美聯軍橫渡英吉利海峽，在法國登陸後，導向最後勝利的大反攻纔算真正開始。也正是基於這一簡單而正確的認識，馬歇爾將軍一直主張排除對其他因素的考慮，儘可能早地渡海登陸西歐作戰，全力消滅德軍。
1943年12月，羅斯福、丘吉爾和斯大林在德黑蘭會議上最終商定，於1944年5月由美英軍隊在法國北部諾曼底地區登陸。這次登陸戰役的代號定爲“霸王”。人們普遍認爲，指揮“霸王”戰役的盟軍最高司令一職非馬歇爾將軍莫屬。馬歇爾將軍已是衆望所歸的人。此際，美國陸軍的步兵和航空隊同時活躍在世界的六大戰場，戰線極長，但是由於馬歇爾在華盛頓指揮得力，對各路人馬的狀況、需求、配備和軍務緩急瞭如指掌，應付自如，協調有致，爲美軍的不斷勝利創造了良好條件。
爲表彰馬歇爾的功績，美國衆議院和羅斯福總統曾打算特設陸軍元帥一銜授予他。但是馬歇爾拒絕了。他努力實幹，不務虛名，此舉博得許多人喝彩。美國著名作家塞瓦賴德在一次著名的廣播講話中說：“這支捍衛自由的偉大軍隊是世界上體魄最強壯，穿着最漂亮，伙食最好，待遇最高的軍隊。它之所以具備今天的組織、訓練、裝備水準，絕非出於偶然。它是一座豐碑，展示着喬治·馬歇爾的天賦和無窮的精力，幾近超凡的遠見卓識及領導才能。這樣一位軍人是不需要元帥杖的。”
馬歇爾本人也想指揮歐洲戰役。1943年秋，同盟國首腦在魁北克會議上一致同意他擔任這一職務，這使他非常高興。但羅斯福回華盛頓後，卻無限地延長了馬歇爾的陸軍參謀長的任期。
羅斯福讓馬歇爾指揮歐洲戰役的決心本是十分堅定的。他在給潘興將軍的一封信中說：“我們準備讓他指揮的是這次戰爭中最大的作戰行動。我認爲他將擔負的乃是歐洲戰場的全部指揮任務，而不僅僅關係到某一地區。此外，英國三軍參謀部將同他就一切事宜進行磋商。再者，我認爲如果不給喬治一個親臨前線統兵作戰的機會就太不公平了……我所能做出的最好的解釋是，我想讓喬治成爲第二次世界大戰的潘興……”
然而，羅斯福總統無疑最後還是同意了潘興將軍的看法。這位身臥病榻的老將軍在給總統的信中說：“……我們在打着一場全球性戰爭，離結束之日尚遠，因此要由最成熟的軍官擔任參謀長一職，以便明智地把握戰略方向。明達的軍界人士一致認爲，馬歇爾將軍正是這樣一位軍官。假若把他調往某個地區作戰，則無論這個戰場看上去如何重要，都將使我們因爲失去這樣一位深諳戰略、任何其他人擔任參謀長都無法同他相比……”
馬歇爾可以極其出色地指揮歐洲戰役，但是無人能頂替馬歇爾充任美國全球軍事行動的指揮者而且指揮得如此出色。羅斯福最終還是把馬歇爾留在了陸軍參謀長的位置上。最後，經總統批准，馬歇爾委任了艾森豪威爾將軍任盟軍最高司令，指揮“霸王”戰役。
1944年1月3日，美國《時代》週刊的封面上赫然登載出馬歇爾將軍的照片。週刊選他爲“本年新聞人物”，稱他爲“祖國的託管者”，“不可或缺的人”。週刊寫道：“作爲一位文明的美國人，他贏得了全世界的尊敬。喬治·卡特利特·馬歇爾將軍有資格代表死難將士接受本國人民的感激之情。”，只要去五角大樓走一遭，就很容易理解爲什麼總統認定必須把馬歇爾將軍留在華盛頓，別人很難勝任此刻壓在參謀長身上的繁重工作。自馬歇爾於1939年接任參謀長以來，這項職務的責任範圍之廣，都大大超過往日。如今，300名官兵直接在參謀長手下工作，他必須每時每刻都能瞭解戰局情況，盟國的想法，敵方的計劃，總統的打算，國會的意圖。
馬歇爾在權力下放方面做得非常徹底。他的原則是：委派最合適的人選負責某項工作，然後就放手任他去幹。如果幹的出色，他會咕噥兩聲表示讚許，如果不稱職，他就請他走人。他了解下屬的全部活動。他要求自己每天掌握手下工作人員掌握的所有情況，因此他規定，任何部下都可以直接向他報告任何事情。
“馬歇爾從不拉幫結夥，”湯姆·漢迪將軍說，“人們可以同他爭辯，只要你完成了工作，一切都好商量，他脾氣上來，也十分粗暴，有時厲聲痛斥，有時冷若冰霜。可是，他能長時間聽人介紹情況，記憶力之強令人吃驚，甚至小事也不漏過。有一次，他去國會參加一個委員會會議，議員們就某些次要但複雜的事項提了一些敏感瑣細的問題。他從容不迫，滔滔不絕地作出了權威性的回答。我問他怎麼能記住這麼多細節，他說：‘我是從近幾個星期軍官們所介紹的情況中摘出來的。’”
馬歇爾掌握情況的主要渠道之一，是每天上午9時準時在他的會議室裏開始的情況介紹會。他頗以他搞的這個介紹會爲自豪，也使世界各地美軍和盟軍司令部的指揮官們羨慕不已。馬歇爾後來回憶說：“對於我和其他主要負責軍官來說，掌握世界局勢進展狀況具有越來越大的重要性，因爲各戰區同時作戰。國內形勢也是風雲多變，我們有着許多頗具才氣的專家，於是便以一幫口才很好的年輕軍官爲基本力量，逐漸搞成了每天上午的情況介紹會。他們每天清晨4點起牀，對前一天晚上收到的電報進行綜合整理，9點鐘準備就緒，按時開講。”馬歇爾還說，“他們後來很精於此道，把情況介紹會搞得真是令人驚歎。你可以看到整個戰局的最新發展——從某種意義上講，戰局情況變得易於瞭解了。”
有一次麥克阿瑟將軍派拉福萊特上校前來華盛頓照例向馬歇爾提出一些不切實際的要求，馬歇爾請上校參加情況介紹會，聽一聽世界戰局的情況，聽得上校目瞪口呆。會後，拉福萊特上校再沒提麥克阿瑟的要求，舉手給馬歇爾敬了個禮，默默地走了。馬歇爾後來寫道：“情況介紹會使他意識到戰爭規模如此之大，我們的‘全球’需要如此之多，因此完全改變了他的想法……他開始現實地觀察整個局勢了。”
在一天的工作時間裏，馬歇爾閱讀報告，寫備忘錄，聽取情況介紹，接見來訪者，出席國會作證;晉見總統，制定影響戰爭進程的重大決策。他不斷用鉛筆在官方備忘錄空白處潦草地寫上各種意見、指示。總統向國會宣讀的戰爭進展情況報告大多出自馬歇爾的手筆。
馬歇爾的工作繁忙而複雜。他曾對艾森豪威爾說，對於像他這樣一個在世界各地都負有責任的參謀長來說，越是接近勝利，事情越難處理。四處都在發生爭吵，各軍種之間在吵，政府和軍隊之間在吵，盟國之間吵得尤其不可開交。
1944年6月6日，美英軍隊在諾曼底登陸後(諾曼底戰役)，美軍將領認爲英軍最高指揮官蒙哥馬利一心想唱主角，因而對他十分不滿，雙方矛盾重重。馬歇爾站在戰勝敵人的最高立場上，必須不偏不倚地處理各種矛盾，使盟軍協力勝敵。協調美軍與友軍的關係也正是馬歇爾的主要責任之一。他不斷提醒盟國歐洲遠征軍最高司令艾森豪威爾說，將軍們都容易變得“虛榮自負”，絕不要忘記，“蒙哥馬利差不多是英國唯一的英雄”，所以不要和他找麻煩。
此時，每個戰場都醞釀着糾紛，許多危機都需要平息，許多歧見都有待消除。太平洋、地中海、西北歐，每天都有許多問題需要解決，而有些問題決非一天半天所能解決。
太平洋戰場
在太平洋戰場上，一路殺回菲律賓羣島的麥克阿瑟將軍不斷向參謀長要人要物，而海軍是千方百計不讓馬歇爾去注意菲律賓。這樣，馬歇爾就首先要說服參謀長聯席會議其他成員，承認菲律賓羣島是合理的軍事目標，應給予大力支援，而另一方面他又要讓麥克阿瑟瞭解，從全局出發，不可能對他有求必應。
在中國戰區，馬歇爾不得不撤換他的司令官史迪威將軍。這不是因爲這位將軍缺乏指揮才能，而是因爲他對中國國民黨領袖蔣介石(1887～1975)和東南亞英軍司令蒙巴頓蔑視而不恭，口出妄言。馬歇爾只好忍痛將他革職。
馬歇爾清楚看到，在抗擊德國和日本法西斯的戰爭中，美軍並非孤軍奮戰，他必須倚重、倚靠甚至倚賴友軍，才能取得最後的勝利。在歐洲戰場上，他始終要求艾森豪威爾遵循他的指示，打敗德軍，贏得勝利，同友軍保持良好關係。在對德作戰的最後階段，一些美軍將領要求搶在蘇軍之前攻佔柏林，丘吉爾和蒙哥馬利也堅決反對放棄柏林，認爲這等於西方把宣傳上的一個大勝利白白丟掉了。但是馬歇爾頂住了這股壓力。在他看來，放棄柏林完全是一種軍事決策。在羅斯福總統剛剛去世，杜魯門總統剛剛上任之際，他必須以軍人的方式進行思考，做出這種符合軍事邏輯的決策，由蘇軍攻佔柏林。馬歇爾和艾森豪威爾不能忘記，蘇聯還是西方的盟友。“是的，我認爲我們當時不應當攻佔柏林，”馬歇爾後來寫道，“必須記住，我們那時正在努力和俄國人打交道。我們一直同他們並肩作戰。他們是我方武裝部隊的組成部分一非常堅定的一部分。他們在戰爭中起了極大的作用，削弱了德軍力量，對所有這些，我們都要好好加以考慮。在戰爭快要結束的時候，他們變得非常敏感，時刻在注意是否有跡象表明英國人和美國人打算揹着他們決定戰爭的結局……”
1944年12月，馬歇爾受領五星上將軍銜。
