1940年他为摆脱敌伪特务的暗杀威胁，而离开上海来到大后方。为了实现自己20多年的夙愿，他毅然拒绝担任重庆国民党教育部委任的国民教育司司长的官职，怀着满腔热情邀请一批有志者，到人所不屑、不愿去的荒山僻壤——江西泰和文江大岭山去办学，建立起我国第一所公立幼师——江西省立实验幼稚师范。文江原是一片荒山野岭，幼师的校址就选在文江村这个松林密布、无人居住的大岭山上。陈鹤琴来到文江着手办学后，当时江西省当局并不支持，还蓄意为难，把幼师的建校经费由原答应的65000元削减为25000元，拨给的经费还不够盖一栋宿舍，却要他办一所学校。他决心“用最少的钱办最好的学校”,带领师生自行规划设计，选材购料，披荆斩棘，开山筑路，编帘搭屋。终于在1940年10月1日，在已筹建的几栋泥壁草顶的宿舍和教室里，江西幼师正式开学了。当年录取新生138名，他们是江西省各县保送来的初中毕业生，分三个班级。因为校舍、设备的建设都还没有完成，开学实际上也就等于全校师生集体劳动生活的开始。师生一起移植树木，松土割草，种地养猪，一边学习一边劳动；以“文武双全、手脑并用”的精神，辟荒山为乐园。在以后的两三年时间里，陆续建成了教学、办公、生活等用房，还建成一批实验园地和其他活动设施，如婴儿园、幼稚园、小学、农场、工艺室、练琴室等，有20多栋简陋的房屋。陈鹤琴亲自设计并参加劳动，还亲自带领职工在大岭山顶找水源，解决学校生活用水的问题。
学校建得十分美丽，当时不少文化教育人士，如夏衍、于伶等老一辈都到过学校。整个校园布局合理，教学楼与宿舍楼交相辉映。教学楼很有意义，都是以中外有名的教育家命名。如福禄培尔院、裴斯泰洛齐院、杜威院、孟母院、欧母院。宿舍楼也很有诗意，有松涛斋、龙泉斋。不论教学楼，还是宿舍楼造型各有特色，都很精巧美观，校门尤其别致。在一条通向校园的道路上，两棵大树之间横竖着一块“国立幼稚师范学校”的校牌；另一条通往校内的大道上，则横挂一块刻着“小狮子”模型的校徽牌，这象征着陈鹤琴校长所倡导的学校要发扬的“小狮子精神”。此外校内同学练琴的鸣琴馆，课后休息散步的桃花坞、放鹤亭、农场、教工宿舍、实验工厂、教具场等星罗棋布，把山头点缀得十分美丽。
幼师开办一年后，引起社会各界的广泛关注。陈鹤琴和社会有关各方都有进一步扩充学校规模的愿望。为此，需要解决教育经费问题，陈鹤琴就此开始了争取幼师改省立为国立的工作，这一愿望终于在1943年春经教育部同意后付诸实现。此后，学生来源也由江西扩大到江苏、浙江、安徽、福建、广东、湖南、湖北、河北、山东、南京等省市。与此同时，又设立了一个幼稚师范专修科，以培养幼师师资和训练幼教干部为目的。至此，国立幼稚师范学校包括专科、师范、小学、幼稚园、婴儿园五部，并附设国民教育辅导委员会的较大规模的教育实验机构及农场、教玩具工场，形成了完整的培训幼儿教育师资的体系，成为当时大后方一个重要的幼教基地和实验“活教育”的基地。
