提起淝水之戰，很多人都知道這是一場以少勝多的戰役，卻很少有人提及在這場戰爭中作爲弱勢一方的東晉，所倚仗的這支在後期足以決定政權歸屬的軍隊——北府兵。
一、流民成軍
公元317年，西晉宗室司馬睿在晉朝宗室和南北大族的擁戴下即位晉王，年號建武，次年晉愍帝被俘，西晉徹底滅亡，司馬睿即帝位，在魏晉名門琅琊王氏王導的協助下割據江南，東晉王朝正式建立。
東晉建立之初，北方正陷入各個胡人政權的無盡爭鬥中，這些自東漢中葉或自願或被強制內遷的民族，在西晉爆發八王之亂，朝廷失去對地方的管控和影響力後紛紛舉兵叛亂，西晉滅亡後則開始爭奪對北方的控制。
或許是出於對長江天塹和南方地勢險要的自信，亦或者是擔心自己的實力不足，東晉對北方地區的混亂局面採取了隔岸觀火的策略，直到由氐族人建立的前秦出現。
前秦是由氐族人符鍵以長安爲國都所建立的胡人政權，和同時期的北方胡人政權相比，前秦政權在宣昭帝苻堅在位期間，重用丞相王猛輔助國政，得以讓前秦的國力在短時間內獲得極大的提升，而隨着國力的增強，苻堅一統天下的想法越來越強烈。
公元370年，前秦出兵滅亡前燕，之後陸續出兵滅亡北方各地的割據政權，到公元376年出兵攻滅代國爲止，前秦完成了對北方的統一，疆域東起朝鮮，西抵蔥嶺，南接川蜀，北至陰山，周邊的國家紛紛遣使與前秦交好。
就這樣，東晉偏安一隅作壁上觀的想法破滅了，因爲就在前秦統一北方期間，苻堅還命人在373年攻下了東晉的梁州和益州。雖然前秦主要軍力在北方，但苻堅攻滅東晉一統天下的野心已經昭然若揭。
前秦對北方的統一帶給東晉巨大的軍事壓力，而一直以來只求偏居江南的東晉根本沒有什麼像樣的軍隊，而且國內的各個南北方大士族之間也矛盾重重內亂頻發。
此時的東晉國君是孝武帝司馬曜，不願當亡國之君的他於公元377年下詔，拜謝玄爲建武將軍、兗州刺史，鎮守廣陵，抵禦前秦。上任後的謝玄很快意識到，必須要有一支戰力強勁的新軍纔有可能擋住前秦的攻勢。
很快，謝玄就在江淮一帶找到了他想招募的兵源——來自北方的流民，雖爲流民，但這些人爲了在長期的逃難遷徙中自保，基本都處於半武裝的狀態，而且在長期與胡人軍隊以及山匪盜賊的拼殺中練就了強悍的戰鬥力。
爲了便於招募兵員和統籌安排，謝玄直接將軍事治理機關從兗州的京口搬到廣陵，隨即開始招募徐、青、兗三州的流民爲兵，因爲東晉百姓稱京口爲北京，這支由流民組建起來的軍隊就被稱爲北府兵。
二、戰果斐然
以流民組建軍隊，自然引起了東晉朝堂內部一些人的懷疑，但很快，北府兵就用輝煌的勝利來證明了自己的強大。
公元379年2月，苻堅派長子符丕率7萬軍隊圍困襄陽城，同年7月，爲了配合符丕的西線攻勢，苻堅又以彭超爲都督統帥將領俱難、毛盛等十萬步騎進攻東晉的東線重鎮彭城、淮陰與盱眙。
次年二月，襄陽城失守，守將朱序被擒，西線潰敗;東線的彭城雖然還在堅持，卻也已是奄奄一息。
危機關頭，東晉朝廷只能派出組建還沒有多久的北府兵出戰，謝玄親率將領高衡、何謙引萬餘北府兵救援彭城。
面對數量龐大的前秦軍，謝玄揚言要攻打彭超囤積輜重的留城，以此讓彭超暫時撤軍，救出彭城的官員與百姓，之後彭超雖佔據了彭城卻只得到一座空城。
同年四月，前秦將領毛當、王顯在攻下襄陽後率兩萬餘軍隊東進與彭超會合，共同進軍淮南;五月，前秦軍攻破盱眙城，俘虜高密內史毛操之，之後再以六萬大軍圍困東晉幽州刺史田洛於三阿城。
前秦軍圍困三阿城的消息傳到國都建康後，東晉文武官員皆惶恐不已，因爲三阿距離建康只有二百里，三阿若失，謝玄所在的廣陵就成了國都的最後防線，丞相謝安當即開始沿江佈防以備不測，同時命令謝玄率北府兵馳援三阿。
公元380年6月，謝玄率五萬北府兵與秦軍戰於盱眙，前秦軍大敗退守淮陰，之後，謝玄命部將何謙率水師朔淮水而上，焚燬秦軍搭建的橋樑，前秦軍水師戰敗退守淮北，謝玄率北府兵乘勝追擊，再敗秦軍於君川。
至此，攻伐東晉的前秦全軍覆沒，只有主將彭超和俱難死裏逃生。
彭超戰敗的消息傳到長安後，皇帝苻堅怒不可遏，雖然丞相王猛在世的時候曾多次告誡他不要輕易南征，因爲前秦雖然看起來比東晉強大許多，但因爲是剛剛統一，各種問題和矛盾非常多，一旦爆發大規模的征戰勢必引起連鎖反應。
但王猛的諫言隨着前秦國力的增長已經無法阻止苻堅日益膨脹的野心，公元383年8月，就在王猛死後的第七年，自認爲時機到了的苻堅命大將符融帶25萬先鋒部隊率先開拔，自己統帥步兵60萬加騎兵27萬隨後跟進，準備一舉攻滅東晉。
面對來勢洶洶的前秦軍，東晉以謝石爲徵虜將軍，以徐、兗二州的刺史謝玄爲前鋒，統帥8萬極具戰鬥力的北府兵沿淮河西上迎戰秦軍主力，同時讓龍驤將軍胡彬帶領五千水軍援助壽陽，減輕謝玄的正面壓力。
公元383年10月，符融率兵攻打壽陽並於18日將其攻克，胡彬退守硤石，符融緊追不捨繼續攻打硤石，與此同時，前秦軍將領樑成率部駐紮在洛澗，沿淮河嚴密佈防來遏制東面的軍隊。
此時的苻堅看到東晉軍只守不攻自認爲此戰可以速戰速決，於是派已經是前秦尚書的朱序去勸降主將謝石，朱序雖然按照苻堅的要求卻勸降，卻私下告訴他不能就這樣堅守，而是要趁着苻堅的大軍還沒有完全集結先發制人，只要擊潰前秦的先鋒軍，剩下的那些由各個民族拼湊起來的軍隊會不戰自潰。
謝石相信了朱序的話決定轉守爲攻，十一月，謝玄派大將劉牢之率五千北府兵開赴洛澗奇襲樑成，前秦軍倉促應敵折損十員大將及五萬兵力，之後，北府兵阻絕淮河渡口，再次殲滅前秦軍一萬餘人，並抓獲了前秦的揚州刺史王顯等人。
小勝後的晉軍繼續西上，於十二月和前秦軍主力對峙在淝水，原本信心滿滿的苻堅此時因爲連續的幾場小敗仗開始對北府兵的戰鬥力產生憂慮，最後不顧衆將官的反對下令前秦軍先行後撤，等晉軍渡河時再進行攻擊決戰。
但苻堅低估了北府兵的敏銳，同時也高估了自己軍隊內部的忠誠，前秦軍剛開始撤退，北府兵就渡水突襲，處在最後面的由各個民族組成的前秦軍在朱序的擾亂下以爲前軍被擊潰，立刻陷入混亂四散奔逃，而謝玄則率北府兵猛攻符融麾下的15萬前軍並將其擊潰，之後一路追殺秦軍收回黃河以南的故土。
三、得北府兵者得天下
淝水一役，北府兵一戰成名， 但作爲北府兵創始人的謝玄卻在383年重病而亡，丞相謝安也因爲功高震主被解除兵權，北府兵落到了王恭手上，成爲東晉內鬥火併的工具，之後，北府兵大將劉牢之反戈王恭將其殺死，北府兵又到了劉牢之手上。
在劉牢之的統率下，北府兵成了鎮壓孫恩和盧循爲首的天師道起義軍的主要力量，不久後，劉牢之在對桓玄的征討中投降，桓玄依靠北府兵逼迫晉文帝禪位建立桓楚，隨後將劉牢之解除兵權並逼其反叛自殺，之後爲了解除後顧之憂，開始大力絞殺北府兵舊部，同時將北府兵一分爲二，分別由桓修和桓弘統領，北府兵一度接近沒落，直到劉裕的出現。
公元404年2月，假意歸順桓玄的北府兵大將劉裕以狩獵之名，在京口舉兵起義，將桓楚在此地的軍隊殲滅並殺死桓修，之後，劉裕依靠重組的北府兵南征北戰，並於公元420年代晉稱帝建立劉宋政權。
只可惜天妒英才，劉裕在稱帝后的第二年就身患重病而亡，北府兵的管轄權就落到了顧命大臣檀道濟的手上。
依靠這支勁旅，檀道濟扶持宋文帝劉義隆登基並抵禦鮮卑人的入侵。而隨着檀道濟功勞的增加，宋文帝對他也越發的忌憚起來。
公元436年，宋文帝以檀道濟深受皇恩卻不知道感激還心存反念爲由，將檀道濟扔進監牢，不久連同其子等八人被殺。同時期與劉宋對立的北魏聽聞檀道濟被殺，皆彈冠相慶，稱“道濟已死，吳子輩不足復憚”。
隨着檀道濟的死去，北府兵這支勁旅在經歷了諸多滄桑和輝煌後，也退出了歷史舞臺。
