武汉的将委员长，在得到张明宇带着独立师到了陕甘宁地区，大发雷霆，以为张明宇要投靠共产党，气得大骂：“张明宇混蛋，忘恩负义。”戴笠在一旁劝道：“现在张明宇并没有声明要加入共党，再说了现在是国共合作期间，就是张明宇敢投延安也未必敢收，所以委座还请放心。”
独立团一切准备工作完毕之后，张明宇便要带着他的队伍离开岷县继续北上准备进行艰苦卓绝的游击战。
出发的前一天晚上，张明宇召开了全团独立会议，他在会议上说：“我们在未来的战争中，要尽量避免同大规模鬼子部队进行大战，我们必须用游击战来骚扰他们，破坏他们的后勤和运输线，给鬼子不断制造麻烦！而且我们现在缺钱，我们要从鬼子手里抢，我们却弹药，也要从他们手里抢，最好咱们能在鬼子后方打开一个根据地！”
“团座，游击战不是**的那一套吗？”张彪问道：“我们咱们可以用这种战术呢？”
“敌强我弱，我们能和他们硬拼吗？”张明宇反问说。
“大哥，可是咱们在南京打得还是不错的啊！”张彪不解的说，
“南京战役咱们又多少兵力？而且我们还是守城，利用巷战消灭敌人，可是将来呢？我们无险可守，进攻我们拿不下城市，守我们又守不住地盘，怎么办？一个团同鬼子一个师团进行决战？那样可行吗？”张明宇解释说。
确实，就一个独立团的兵力，要同敌人进行决战也是不可能的事情。接下来，张明宇又解释说：“孙子兵法曰：，故用兵之法，十则围之，五则攻之，倍则分之，敌则能战之，少则能逃之，不若则能避之。古人都懂的道理，难道你们还不明白吗？其实打游击战没有什么丢脸的！我强调过多少次，必须保存自己消灭敌人的有生力量！”
在出发之前，张明宇召开誓师大会：“弟兄们！小鬼子占领我们的领土，杀害我们的亲人，掠夺我们的资源财富，**我们的姐妹！要把我们中国人全都当成亡国奴，你们愿不愿意？”
“不愿意！”战士们爆发出怒吼声。
张明宇接着说：“各位弟兄们！经过三个月的训练，我们这支队伍即将开赴前线！我们这支队伍和别的队伍不一样，我们的队伍可以说是国军之中最精锐的一支铁军！我相信我的战士战斗力一定不会输给小鬼子！只要我们凝聚在一起，我们的队伍是不可战胜的！要知道我们是灭日铁军！”
在出发的之前的最后，张明宇再次宣布铁军独立团纪律：“首先我们是一支军队，而不是游兵散勇！所有的官兵们必须严格服从上级命令！战场上当逃兵者就地正法！违抗军令者视情节给予处罚！第二我们的军队是为了赶走占我们土地的日本帝国主义的！所有战士不许欺负老百姓，抢老百姓的东西！如果打老百姓者和打劫者，一律正法！骂百姓者和盗窃者给予相应的惩罚！不许欺负姐妹，如有**妇女者枪毙！调戏妇女者枪毙！损坏百姓物品者从军饷中扣除赔偿，缴获鬼子武器和物品，一律上缴团部由副团长统一安排分配。”
准备好干粮之后，独立团从岷县出发，沿着山区一路朝兰州方向前进。日军在占领“蒙疆地区”后，为了把关东军所属的部队迅速调回满洲，以担负对苏防御和对付我东北抗日联军，于1937年9月30日下令编成第二十六师团。该师团编成后，隶属关东军，此时日本陆军部从战略全局考虑，决定以关东军专门对苏，以华北方面军华中方面军专门对华，在我国华北与东北中间地带即所谓“满蒙地区”另外部署专门的军队，以填补关东军和华北方面军之间的空隙，同时对外蒙古（即蒙古人民共和国）、宁夏、绥远方面进行监视。
十二月27日，正式决定成立驻蒙兵团司令部，直届天皇指挥。其司令官权限，与军司令官相同。
1938年1月4日，日本大本营陆军部下达住蒙兵团编制与任务的命令，1月8日兵团司令部编组完成。兵团司令官莲绍蕃中将，参谋长石本寓三少将，下辖第二十六师团及五个步兵后背大队。
