但是庾翼不这么认为，他说：“像这样的‘大才’在这样战乱的年代应该‘束之高阁’，暂时封存起来，等到和平年代，才可以委以重任。”并不是多么看重殷浩。他认为慷慨激昂的桓温才是这个时代的真英雄。
但是他也想方设法去说服殷浩当官。他请殷浩担任他的司马，而朝廷让殷浩担任侍中、安西军司，殷浩都没同意。
桓温娶的是晋明帝之女南康公主。成帝在世时庾翼曾向成帝举荐桓温说：“桓温具备英雄的才能，希望陛下不要用常人的礼节对待他，按寻常的女婿豢养着。应当委派给他周宣王时方叔、邵虎那样的重任，他必能建立匡救国家的功勋。”
庾翼以攻灭赵王胡虏、收复蜀地为己任，于是他联络四方，派使者向东北与燕王慕容皝相约，向西与凉州牧张骏相约，商定日期大举行动。群臣大多认为此事难以施行，只有庾冰、桓温的意见与庾翼相同。
公元343年（建元元年）七月，后赵汝南太守戴开率数千人向庾翼投降。庾翼认为这是一个好兆头，更坚定了他北伐的决心。
同月初八，康帝下诏让朝廷论议北伐之事。庾翼想全数出动自己所统领的士卒北伐，上表推荐桓宣为都督司、雍、梁三州及荆州四郡诸军事及梁州刺史，前赴丹水；任命桓温为前锋小督、假节，率军入临淮。同时出动自己统领的六州中的奴仆及车牛驴马，使得百姓都叹息怨恨。
庾翼想到襄阳去镇守，怕朝廷不许，便上表称到安陆镇守。康帝司马岳派使者制止他，车骑将军参军孙绰也写信劝阻庾翼，不得轻易改换镇守城池。但庾翼都不听。仍然违反诏令向北行进，到达夏口后，才又上表请求镇守襄阳。
司马岳（晋康帝）继位，庾冰升职为车骑将军之后。庾冰因为感觉权力太大而感到惶恐不安，于是多次请求出任外藩。于是朝廷在基本同意庾翼北伐的同时，让车骑将军庾冰都督荆、江、宁、益、梁、交、广七州、豫州之四郡诸军事，领江州刺史，假节，镇守武昌，作为庾翼的后援。
庾翼当时拥有兵众四万人，康帝最终下诏任命庾翼为征西将军，领南蛮校尉。加都督征讨诸军事。
在襄阳，庾翼召集自己的将士僚佐，陈列旌旗与铠甲，检阅出征部队，做最后的战前动员。
他让士兵备好箭靶，说：“我这次出征，就像这次射箭一样。”然后，他扬鞭催马，张弓搭箭，结果，三支箭都正中靶心。
四万将士僚佐大眼瞪小眼一样都注视着他，“胜利！”“万岁！”的口号声震耳欲聋，士气非常高涨。
对江南这次突袭，后赵应该说是没有准备，也没有料到。所以在后赵朝廷上下，并没有引起多大的震动。
但是这次战役，交战双方仅仅有两次较小规模的“零距离”接触，就草草收场了。
第一次接触。晋兵攻打樊城。当时后赵骑兵五六百人兵出樊城，外出寻求援兵。庾翼派冠军将军曹据率军追击，在挠沟北将后赵骑兵击破，后赵军死伤近半，曹据缴获战马百匹。
第二次接触。庾翼命令梁州刺史桓宣在丹水与后赵将领石闵交战，老将桓宣虽然身经百战，曾立战功无数，但他哪里是猛将石闵的对手啊？两军一照面，老将桓宣的队伍就被石闵率军打了个稀里哗啦。
庾翼当然非常恼怒，他马上将桓宣降职为建威将军。桓宣为此惭愧气愤，不久后便去世了。
庾翼让自己的长子庾方之出任义城太守，统领桓宣的部众。又命征西司马应诞为龙骧将军、襄阳太守，征西参军司马勋任建威将军、梁州刺史，戍守在西城。