广州起义失败后他对起义过程中出现的过激行为很不满。（李宗仁在回忆录中写到过当时的广州：全市火光烛天，尸体狼藉。市民均被迫以红巾系颈，表示拥护红军，否则格杀勿论。张发奎匆忙前往肇庆，急令黄琪翔回师平乱，黄氏乃率部返穗。张、黄二人以共党在后方捣乱，破坏其一统两广的大计，愤恨之余，遂也恣意杀戮。下令凡见颈系红巾的，即格杀勿论。人民分不出孰为红军，孰为第四军，只知有红巾亦死，无红巾亦死。一时广州全市全城鬼哭狼嚎，无故人民被杀的不计其数。大火数日不绝，精华悉被焚毁，实为民国成立以来鲜有的浩劫。）
叶挺无法理解自己所从事的革命究竟是要干什么，这样的革命就能打倒军阀、驱逐列强、富强中华吗？他的疑虑反映上去以后，受到临时中央李立三的严厉批评。更令他不能接受的是王明等人根本不了解前线敌强我弱力量悬殊的实际，把广州起义失败的罪责强加在他这个工农红军总司令的头上，无理指责、组织处理。
那时候的中央只是共产国际的一个执行机构，许多问题要到莫斯科去处理，他千辛万苦赶到莫斯科不容他辩解就被被共产国际冷落、开除党籍。他是一个自尊心极强、性格刚烈的人，愤然出走德国流亡欧洲，后到澳门隐居，加入由国民党左派邓演达、陈友仁、宋庆龄发起组织的‘第三党’。一边研究军事理论一边积极在国共两党之外探寻实现革命理想的道路。
抗日民族统一战线建立以后，中央考虑到新四军的特殊性，需要一位知名的党外将领来领导这支孤悬敌后的人民武装，想到了这位名将，周恩来当年路过德国时曾去看望过叶挺，推心置腹地做过深谈。给孤独苦闷的叶挺以极大地安慰，发自内心地敬重周恩来。
经过周恩来、宋庆龄等人的劝说，经过蒋介石的认可，出任改编后的新四军军长。能够为国家出力让纯粹军人性格的叶挺很开心。在周恩来、董必武等陪同下意气风发地来到云岭军部，受到项英、陈毅、袁国平、张云逸、谭震林等老战友的热烈欢迎。
开始时北伐名将的光环和中央的礼遇让他拥有足够的话语权，频繁游走于武汉、南昌，出入军政部门为新四军落实编制装备、军饷被服，接见民众团体和爱国华侨为部队筹集经费，为新四军的组建、编练做出了巨大贡献。
但随着时间的推移，他的军长生涯越来不开心，作为党外人士他无法参加新四军党委会。而按照共产党军队党委一元化领导的管理模式，重大决策必须经过党委讨论，他做出的决策自己无法参与讨论加以说明，往往被否决还不知道原因理由。
中央来电、各种指示都属于‘机密’他无权了解。也无法和中央直接沟通，只得和战区司令部、国民政府军委会保持联系，致使他更多的听命于国军指挥系统。
作为一个毕业于保定军官学校的旧式军人，身上保持着许多旧军队的习惯，仪表堂堂、军容整洁、讲究排场、出门乘马、前呼后拥。走到哪都背着一架照相机，休息时卫兵给打伞遮阳，聘广东厨师开小灶，交游广阔、宴请不断、开支很大。
这让在山里吃糠咽菜十来年的干部战士很看不惯。尤其与剃着光头、普通士兵服饰、与战士们同吃大锅饭、出操训练摸爬滚打的项英政委形成鲜明对比，加之他曾经中途脱党革命的坚定性受到质疑。威信下降，军部上下没几个说得来的知心朋友。让他很孤独、很苦闷。
过江以后，中央考虑到新四军部队战斗力低下，要求新四军深入乡村山区发展根据地采取游击战，避免正面作战，与叶挺正规军人的作战理念相背离。
他赞同游击战与运动战相结合的作战方式，反对项英等人一味以维护国共两党团结暗中壮大实力为借口龟缩在指定防区内拒绝大规模运动战的做法，提出许多集中兵力打大仗的建议均被否决，让他很失望，认为自己在新四军中只是个摆设，毫无用武之地。
