在新文化运动过程中，知识分子竭力寻找革命的主体。1919年，以北京大学学生起来抗议巴黎和会的屈辱外交为契机，展开了“五四”运动。陶行知通过“五四”运动，感受到了民众的力量，开始倡导“平民教育”。1921年，中华教育改进社成立，陶担任主任干事，1923年，中华平民教育促进会在北京成立，陶又担任为书记。他跟朱经农等人编辑了识字教科书 ——《平民千字课》，组织了平民学校，平民读书处和平民问字处，开展了平民运动。但是，陶行知对阶级性认识不足，他的思想带有一些阶级调和的倾向，而且他的运动本身适应民族资本主义家的要求而产生出来的。由于这些原因，作为一场群众性的运动，平民教育与现实的人民生活相分离，因而难以坚持下去。
第二期，乡村教育实验时期（1927—1930年），即以晓庄师范学校为中心的实验来尝试农村的改造的时期。通过这一段时间，陶的思想得到飞跃。陶在晓庄师范的实践里把学生解放出来，培养出具有农夫身手、科学头脑、改造社会精神的教师。以此为目的，陶在国民革命进行的过程中，着眼于农村里的封建统治机构残余的影响。为了消除这种影响。要把学校和农村在反封建军阀、反土豪劣绅的斗争中相互联合起来。在他的思想里，联合学校和农村的核心概念是农村儿童的“生活”。对此，他援用经验主义，组织了生活中心主义的师范教育实践。
从这一点出发，他建立了在教育上的认识论“行是知之始”和方法论“教学做合一”。“行是知之始”，是他用经验主义批判王阳明的“知是行之始”后产生的。而“教学做合一”则是把“教学合一”在“做”的基础上加深而得出来的。其后，作为对这个“教”“学”“做”概念的深化，产生出来的是陶的教育观“生活即教育”和“社会即学校”。至此，可以看到陶行知教育思想基本形成。
陶行知的这种教育思想发展的背景是：革命战线分裂，国民党统治了中国，共产党领导下的激烈的农民运动，以及晓庄师范成立了共产党地下组织，晓庄师范向“革命”的转变等。晓庄师范向“革命”的转变，结果导致蒋介石下令封闭晓庄师范。这一过程中，陶行知逐渐加深了他的阶级认识。1930年4月，晓庄师范被封闭。同年秋，陶行知也被追捕，流亡日本。
第三期，推行普及教育时期（1931—1935年），即陶行知从日本流亡归来后，开展“工学团”到1936年提出“国难教育”口号为止的一段时期。1931年春天，陶从日本回国后，寄望于“科学救国”。开展“科学大众化”运动。在这种实践中，陶对旧传统教育中知识和劳动相分裂的现象作了批判，以期用教育的方法培养出手脑相结合的，具有创造新价值的能力的人。可是，这个“科学大众化”的内容跟人民日常生活的需求有一定的距离，因而进行极为困难。
由于1931年“九一八”事变，1932年“一·二八”事变，中国抗日救国运动在全国广泛的开展，陶行知也积极地投身于这一场运动。他猛烈地批判国民党政权腐败无能，向人民呼吁抗日救国。在这一过程中，产生了“工学团”思想的萌芽。工学团是“工以养生，学以明生，团以保生”的集体，是他的教育思想的具体表现。作为他的实践手段。陶设想了“小先生”制，1933年，陶创立了生活教育社，开设山海工学团，开始了他新的教育实践。
