1922年6月粤军总司令陈炯明叛变，调集重兵围攻孙中山的总统府时，率部与叛军激战，掩护孙中山夫人宋庆龄等脱险。 [2]

1924年国共两党合作后赴苏联莫斯科，先后入东方劳动者共产主义大学和红军学校中国班学习。同年10月加入中国社会主义青年团，同年12月1日转入中国共产党。 [18]

1925年9月回国到广州，参与组建以共产党员为骨干的国民革命军第４军独立团，任团长。所部成为中国共产党直接掌握的一支武装部队。北伐战争中，他率部长驱直进，连战皆捷，屡建奇功，被誉为“北伐名将”，所部被称为“叶挺独立团”，为第４军赢得“铁军”称号。 [2]

北伐军占领武昌后， 任第四军二十五师副师长，1927 年春任第十一军二十四师师长兼武昌卫戍司令。同年5 月夏斗寅叛变革命，带领所部新兵和工人纠察队击溃叛军进攻。使武汉转危为安。 [20]