得益于汪精卫强大心理素质的助攻，蒋介石没有费多少力气，就登上了权力中心的宝座。
首先要做的，便是更加牢靠地掌握军权。
在第一次国共合作中，共产党不仅在国民政府中担任了要职，在军中也有了自己的力量。孙中山在的时候，大家相安无事，眼下，到了蒋介石这里，我们的校长大人显然既不宽宏，更无大量，对于这种不可能听从自己命令的团体，自然要委婉地“清”出去。
1926年5月，蒋介石以整顿党务的名义，向国民党内部提交了《整理党务决议案》。根据议案的要求，共产党员从即日起不得担任中央各部部长，在议员中的人数必须严加限制，加入国民党的共产党员名单必须交出。
同时，协议还规定，不准国民党党员再加入共产党，即使是现有的共产党员，共产党若想指挥，也必须获得国民党的同意。
国共两党至此，不再具备平等合作的地位。显然，国民党拥有了凌驾于共产党之上的“绝对地位”。
按照正常逻辑，此时的共产党党组织不可能看不到蒋介石这是什么意思，也不可能不知道一旦这种协议通过，将对自己意味着什么。然而，很不幸的是，此时的共产党第一书记，仍然是一大选出来的“陈”。如果要比软弱和妥协，陈独秀的本领，丝毫不输给汪精卫。
在蒋介石和国际共产主义的双重压力下，“陈”简单表达了一下抗议，随后便全盘接收了国民党的决议。
共产党员在国民党内的职务和影响力，几乎是一夜之间，被清理的干干净净。唯一还能“硕果仅存”的，只剩下叶挺在军中领导的一个团。
至此，蒋介石扫清了他前进路上的一切威胁，终于可以开始干“正事”了。
1926年7月4日，国民政府通过了《国民革命军北伐宣言》，革命军将从广州出兵，以打倒军阀、解放全国为目标，开始浩浩荡荡的北伐战争。
作为当仁不让，也不可能让的领导核心，国民革命军总司令一职，自然是由蒋介石亲自担任。
北伐的目标是三个：直系军阀吴佩孚和孙传芳，奉系军阀张作霖。
当然，打败这三个人，并不代表就能解放全国。此时的中国，各地山头林立、十分混乱，山西的阎锡山、西北的冯玉祥，也都不是老老实实听话的人。不过至少，放眼全国，只有吴佩孚、孙传芳和张作霖，具备统帅北洋政府的能力。
换句话说，只要打败了这三个人，至少从国际上，国民政府就将成为中国唯一的合法政府。
这个诱惑实在是太大了。
北伐军的出兵时机选择的也很好，此时，吴佩孚和孙传芳，正因为北洋政府的领导权，和张作霖之间兵戎相见。
吴佩孚占领的地盘，包括湖南、湖北、河南及河北部分地区；孙传芳占领的地盘，包括福建、江西、浙江、安徽和江苏地区。张作霖占据了东北和山东，并将北京城牢牢控制在手中。