不过，这里要特别指出的是，谢安执政也有一个先天不足，这个先天不足，就是谢安缺少一支可靠军事力量的支持。大家必须明白，在东晋特殊的政治形势下，没有足够的、可靠的军事力量的支持，谢安既无法同长江上流的桓氏家族维持政治军事上的平衡，更无以应付来自北方前秦的军事压力。如所周知，此前支持护卫京师建康的武力，本来是依靠郗鉴（269—339，字道徽，高平金乡即今山东金乡人）的北府兵。但是，郗鉴死后，北府兵却因为桓温兼并郗愔（313—384，字方回，郗鉴长子、王羲之妻弟，郗读xī）而不复存在。所以，谢安执政以后，首要的任务就是尽快组建一支完全听命于谢氏指挥调遣的武装力量。

为了组建一支可靠的武装力量，谢安以执政的身份，先是把桓冲从徐州（治京口，即今江苏镇江）调离，让他到上流荆州赴任，安排王蕴（329—384，字叔仁，晋阳太原即今山西太原人，晋孝武帝岳父，外戚兼名士）接替桓冲担任徐州刺史，出镇京口。同时，谢安又让朱序（？—393，字次伦，义阳平氏即今河南桐柏人）出任兖州刺史，出镇广陵（兖州治所，今江苏扬州）。在东晋南朝时期，京口、广陵始终是捍卫京师建康最重要的方镇，相当于建康的东大门和北大门，因此，凡专建康政柄者，都必须将此二藩牢牢控制。所以，综合各种情况分析，谢安将徐、兖二镇交给王蕴、朱序，只是权宜之计，他的终极目的是希望由谢氏子弟掌控京口、广陵这两个军事重镇。

太元二年（377）春，谢安利用前秦大兵压境之机，任命朱序为梁州刺史，进驻上游的襄阳（今湖北襄樊一带）。这样，兖州重镇就空缺出来，为此东晋朝廷举行大议，商讨选拔良将镇守广陵事宜。在此次朝廷大议中，谢安以执政的身份，力荐兄长谢弈之子谢玄（343—388，字幼度）出任兖州刺史。同年十月，谢玄到兖州上任，广陵重镇终于落入谢氏手中。太元四年（379）二月，前秦攻陷襄阳，俘梁州刺史朱序。五月，前秦遣兵南犯，攻盱眙（xū yí，今江苏盱眙东北）、围三阿（今江苏宝应），距广陵仅百里之遥。六月，谢玄领兵反击，连战皆捷，收复三阿、盱眙、君川（今江苏盱眙北）等地，取得“君川大捷”。于是谢安就利用“君川大捷”，名正言顺地让谢玄兼领王蕴所镇的徐州。至此，徐、兖二州也就在事实上合为一镇。

谢玄兼领徐、兖二州以后，就以广陵、京口为根据地，重新招募组建了北府兵。有了这支军队，又控制住京口、广陵重镇，谢安执政就有了坚强后盾。谢玄重组的这支北府兵，在随后的淝水之战中发挥了决定性的作用，又成为后来解决桓玄问题的决定性武力。因为北府兵在此后的东晋军事政治生活中具有举足轻重的重要地位，所以这里要稍微多说几句。

学界对北府兵的关注颇多，以田余庆先生的相关研究最富创见性，故这里我们按照田先生的意见，将北府兵的一些特点略为陈述一下。东晋不仅有北府兵，还有西府兵，在东晋几次重要军事行动中，西府与北府默契配合，从而取得多次军事征战的胜利。至于北府所以扬名后世，而西府为历史所忽视，主要是因为后来北府兵成为刘裕压平桓玄与创建刘宋的军事武力，而西府则过早的退出了历史舞台。

北府兵的出现很早，最初是由郗鉴组建的，地点也是在京口，郗鉴曾用它来压服琅邪王氏，从而维持“王与马，共天下”的门阀政治格局，并直接促成京口重镇的形成。但是，到后来桓温专政，北府兵就在事实上被解散了。所以，谢玄于太元四年在京口、广陵组建北府兵，只是一次重建，并不是某些传统教科书上所说的“创建”。

谢玄为什么比较容易地就重组了北府兵？这是因为北府兵的组成有两个与众不同的重要特点：

一是北府兵的组成，主要是招募将领，这与后世常见的招募士兵不同；

二是应募的北府兵将领，自己本身就拥有兵众，只要授予他们军号或刺史、太守之类的名义，或者在兵员上稍作补充，就能够运用于战争。

另外，由于江淮之间、广陵京口附近又是当时流民的集中地，所以兵员的补充十分容易。正是由于这两个特点，所以谢玄重组北府兵的时候，不过就是把以前那些原本就属于北府、后来分散于各地的江淮宿将和流民武装重新集合起来，再征发一些过淮的流民加以充实而已。

这里还要特别说明的是，有不少学者认为，东晋北府兵训练精良，并说这是淝水之战能够获胜的一个重要原因。然而事实上，史书上从来就没有谢玄训练北府兵的记载，另外，当时北府兵的兵员都是散居于江淮地区的流民，也不具备进行训练的条件。因此，北府兵之善战，主要在于他们来自流民，本来就习战有素。所以说，认为谢玄组建北府兵，与历代常见的招募、训练新军相似，是对历史的误解。