秦军队，对东晋朝廷，构成了巨大威胁。苻坚带领前秦军队，屡屡南侵，朝廷急需良将，去镇守北方，抵御前秦的入侵。谢安对谢玄深为理解，知道谢玄能担当此重任，为了进一步锻练谢玄，他不避自己身为朝廷宰相有任用亲私之嫌，他在这时毅然向朝廷推荐谢玄。
中书郎郄超，一贯与谢安不和，但见谢安举荐谢玄，也从心底里觉得谢安推举得当，不由得赞叹道：“谢安违众举亲，是明智之举，谢玄一定不负众人之望。”
别的朝臣，都不以为然，郄超竭力为他解释，把自己亲眼见到的谢玄的才能，介绍给朝臣，才消除了众人的疑虑。后来朝廷任命谢玄，为建武将军、兖州刺史，总管长江以北的军事，谢玄成为直接抵御苻坚军队的将领。
有一些军团曾经纵横四海所向无敌，不论多少年过去，他们的英雄气依然在天地间激荡，让人怀念崇敬，比如岳家军、戚家军。在东晋，也有这样一支军队，那就是战无不胜、攻无不克的北府军，创始人就叫做谢玄。
谢玄很聪明，很受谢安器重。有一次谢安问：“我家的人并不一定都要出来做官，但为什么还是希望你们能刻苦学习，每个人都有才能呢？”
大家都愣住了，谁也答不上来。
谢玄说：