1939年8月18日，曼施坦因调任南方集团军总部的参谋长，总司令是格特·冯·伦德施泰特上将，准备实施入侵波兰的“白色作战计”（OperationFallWeiss）。在这里，他和伦德斯泰特的作战处长衮特·布鲁门特里特上校一起制定作战计划。
伦德斯泰特采纳了曼施坦因的方案，此方案要求将南方集团军的主要装甲单位集中到瓦尔特·冯·赖歇瑙上将率领的第10军团，以求得决定性的突破，从而在维斯瓦河以西包围波兰军队主力。其他2个从属于南方集团军的集团军，威廉·李斯特上将率领的第14军团和约翰内斯·布拉斯科维茨上将的第8军团则负责在2翼支持赖歇瑙的装甲突击力量直捣波兰的首都——华沙。
私下里曼施坦因对于进攻波兰并不是特别热心，他认为波兰作为德国和苏联之间的缓冲区更好；而且他也担心进攻波兰将会导致盟国进攻，从而将德国拖入两线作战的窘境。
进攻于9月1日发动，开局顺利。在南方集团军的战区内，第10军团的装甲部队追上了撤退的波兰人，使他们来不及建立防线，第8集团军在他们的侧翼，防止分散的波兰部队在罗兹、拉多姆、波兹南地区集结，形成比较联贯的军队。
按照原计划，南方集团军群应该首先向维斯瓦河直进然后转向华沙，鉴于战场形势的变化，曼施坦因和伦德斯泰特决定在拉多姆地区对波兰部队进行合围。包围取得了成功，清除了从南部到华沙的成规模的抵抗力量。
在战争初期曼斯坦因以参谋官的身分在幕后发挥影响，原本德军进攻法国拟定了以希里芬计划为基本架构，此计划为德军装甲主力配置在北方的A集团军，目的是占领法国北部的广大临海土地，以准备与英国作战（当时德国各高层军官并不认为可以在西线战场上取得决定性胜负来击败法国，与其去强求那不可能的幻想，不如以局部胜利为目标，因此才打算效仿希里分计划），其正面强攻比利时和荷兰，跟英法主力硬碰硬。
但曼斯坦因认为：在我们这1代之中，居然无法制定出更好的计划，而要去仿照那前人的计划。因此他修改了此计划，主张应将装甲主力配置在南方的B集团军，穿越阿登山区，由后方截断孤立英法主力部队。
他的计划一开始并未受到重视。尔后由于1架联络飞机失事迫降于比利时，机上的军官以及进攻计划“黄色方案”被英法所截获，引起了参谋本部震动。在经过多次努力提交计划的情况下，得到了希特勒的接见，接见中他向希特勒介绍了自己的计划（来源于《曼施坦因战争回忆录》），进而获得了在军事上喜爱冒险的希特勒大大赏识，并且被付诸实行，德军最终获得极大成功，装甲部队一路直冲英吉利海峡，英法联军只得由海路撤回英国，也注定了法国的败亡。
在1940年的法国战役中，德军并不像大家所想像拥有压倒性的优势，只能说在装甲师这个新兵种上德军的确数量较多（10个装甲师）在正确的战略和富有冲劲的将军的前提下（海因茨·古德里安、埃尔温·隆美尔），最终获得了极大的成功，以闪击战一举打垮了法国。此时曼斯坦因只被派赴担任第38军军长进行追击残余的法军工作，明升暗降的被挤出了参谋本部。
1941年希特勒转向俄国发动了巴巴罗萨行动，3,000,000德军分成北方、中央、南面3大集团军向俄国进攻，曼斯坦因此时终于如愿以偿（指挥1个装甲军）担任北方集团军第56装甲军军长，他领导的第56装甲军在开战后的4天之内,冲入敌境达200哩的程度，令苏联军措手不及，他认为装甲部队就是要不断向前冲，以机动的方式深入敌阵，让敌人无法重振旗鼓组成新的防御阵地，一但停下来就会成为敌军的标靶，因此要不断前进，最终获的了4天深入达200余哩的成就。
