1919年5月,陶行知迎来了杜威的访华。“五四运动”爆发,陶行知于12月就任南京学界联合会会长,到各校发表演说,支持反帝爱国运动。1921年,就任《新教育》总编,1922年,兼任由几个教育团体合并而成的中华教育改进社的主任干事。同年,南京高等师范学校并入东南大学时,陶行知就任教育科主任教授。1923年,陶行知辞去东南大学的职务,举家迁往北京,专务于中华教育改进社主任干事之职。从此,与晏阳初等人合作,发起中华平民教育促进总会,开始致力于平民教育。陶行知认为平民教育是改善社会环境的最重要的方法,希望通过这一方法创造一个崭新的社会。这是基于教育救国的改良主义的主张。作为一位爱国主义者,陶行知希望早日使中国摆脱贫困和落后,并且把这一愿望寄托于平民教育之上。但是,他见到80%以上的农民没有受到教育,认识到平民教育的舞台应该是农村,便把精力倾注到农村教育之上。
1926年,陶行知向全国呼吁“筹募一百万元基金,征集一百万位同志,提倡一百万所学校,改造一百万个乡村”[4],以改善农民的教育状况。1927年3月,在南京市外的晓庄创设了农村师范学校“晓庄学校”,作为一所教育实验学校。中国近代史上许多名人都与这所学校的创设有所关联。像董纯才等后来肩负着发展新中国教育的人物就是陶行知当时的学生。陶行知著名的“生活即教育”“社会即学校”“教学做合一”的生活教育理论就是在这一时期确立并接受实验的。由于晓庄的教员与学生在中国共产党的领导下,展开了反对帝国主义和反动派的运动,使国民党政权感到惧怕,1930年政府便查封了学校。陶行知本人也被国民党政府指名通缉,因得到内山完造的帮助才得以流亡日本。当时,杜威、甘地、爱因斯坦、罗曼·罗兰等人都曾经打电报给国民党政府,要求解除对陶行知的通缉。
1931年,陶行知从日本秘密回国,关注于科学普及教育,提倡科学下嫁运动(科学的大众运动)。其原因是在日本亲眼看到了科学的发达促进了工业的发展,使陶行知认识到中国科学发展的重要性。陶行知还创设了自然科学园与儿童科学通讯学校,编辑出版《儿童科学丛书》《大众科学丛书》,积极投入科学普及运动。
“九一八”事变后,陶行知面对民族危机,愤恨国民党政府的反动政策,响应中国共产党抗日救国的号召,加入到抗日救国的宣传和教育普及活动。1932年在上海郊区创设山海工学团,高举“工以养生;学以明生;团以保生”[5]的口号,主张把工厂、学堂、社会综合为一体。山海工学团的教育实践是陶行知生活教育思想的崭新的实践和发展。山海工学团招收的是劳动者、农民、城市平民子弟,在劳动中进行教育。陶行知创造了“小先生制”,在努力普及教育的同时,提倡尊重孩子主体性的教育方法。1933年,陶行知在上海发起成立中国普及教育援助会,目标是普及民众和儿童生活水平的提高所需的教育。
晓庄学校时期,陶行知曾经在名为“行是知之始”的演说中否定了王阳明的“知是行之始,行是知之成”的理论,主张“行是知之始,知是行之成”。1934年7月,他发表了题为《行知行》的文章,正式改名为“行知”,表明了他坚信唯物主义的认识论。