到了四十多岁的时候,他才重新出来做官。因为谢安长期隐居在东山,所以后来把他重新出来做官这样的事称为“东山再起”。
苻坚强大起来以后,东晋的北面边境经常遭到秦兵的骚扰。朝廷想找一个文武全才的将军去防守边境。谢安把自己的侄儿谢玄推荐给孝武帝。孝武帝把谢玄封为将军,镇守广陵(今江苏扬州市),掌管江北的各路人马。
谢玄也是个军事人才。他到了广陵以后,就招兵买马,扩大武装。当时有一批从北方逃难到东晋来的人,纷纷应征。他们中间有个彭城人叫刘牢之,从小练得一身武艺,打仗特别勇猛。谢玄派他担任参军,叫他带领一支精锐的人马。这支人马经过谢玄和刘牢之的严格训练,成为百战百胜的军队。由于这支军队经常驻扎在京口(今河苏镇河市),京口又叫“北府”,所以把它叫做“北府兵”。
这一回,苻坚率领百万大军进攻东晋,谢安决定自己坐镇建康,派弟弟谢石担任征讨大都督,谢玄担任前锋都督,带领八万军队前往江北抗击秦兵,又派将军胡彬带领水军五千到寿阳(今安徽寿县)去配合作战。
谢玄手下的北府兵虽然勇猛。但是前秦的兵力比东晋大十倍,谢玄心里到底有点紧张。出发之前,谢玄特地到谢安家去告别,请示一下这个仗怎么打法。
哪儿知道谢安听了像没事一样,轻描淡写地回答说:“我已经有安排了。”
谢玄心里想,谢安也许还会嘱咐些什么话。等了老半天,谢安还是不开腔。