南宋词人辛弃疾在《永遇乐•京口北固亭怀古》中说“斜阳草树，寻常巷陌，人道寄奴曾住。想当年，金戈铁马，气吞万里如虎”，那气吞万里如虎的军队是一支什么样的军队呢？它就是北府兵，而它的统帅刘裕（寄奴），正是凭借这支军队，才北伐成功，收复了不少被北方民族占领几百年的土地，成为“定乱代兴之君”。
北府军的名字是怎么来的呢？《资质通鉴》载：“（谢）玄募骁勇之士，得彭城刘牢之等数人，以刘牢之为参军，常领精锐为前锋，战无不捷，时号‘北府兵’。”东晋将领谢玄镇守京口，为了防备北方虎视眈眈的前秦，找到了刘牢之等人组建军队，因为京口当时是东晋的北府，所以这支军队被人称为北府兵。北府兵的第一次亮相大概要算淝水之战了。面对前秦的号称八十万的铁骑压境，谢玄的北府兵只有八千人，但还是凭借各种条件击溃了前秦的大军，使得前秦统帅苻坚统一南北的美梦泡汤，也使得偏安南方的东晋在强敌环饲中苟延残喘一百年。
北府兵的战斗力为什么强大呢？首先，北府兵的主体是北方流民。当时南北方分裂，北方被胡族占据，许多汉人逃难到南方，成为流民，这些人和胡人有着血海深仇，时时不忘恢复故土。其次，北府兵是私人军队，是将领自己从流民中招募战斗人员，招的自然都是优秀分子。最后，有一个杰出的统帅也是很重要的，不然再优秀的士兵也没有用武之地。像东晋的谢玄、刘牢之、刘裕，都是很优秀的将领。尤其是刘裕，在他的带领下，南方朝廷差点完成了统一的大业，可惜天不假年，刘裕死得早些，使得南北分裂的局面，又延续了几百年。