三年离别，见了母亲、妻子、妹妹，真是悲欢交集，他双手举起幼小的儿子桃红，频频亲吻他的脸颊。时光是多么快的飞过，真像一个梦境，仿佛记得自己还是父亲的爱子，醒来却是孩子的父亲了。
人生事业也从此标出一个起点！
他接受了南京高等师范学堂的聘书，开始了教授生活。他抱着一个改造中国教育的愿望，细心考察当时各级学校的教育实施情况。
他看到所有的学校，都还用着陈腐不合理的教育方法，“教师只会教书，只会拿一本书要儿童来读它，记它，把那活泼的小孩子做个书架子，字纸篓；先生好像是书架子字纸篓的制造家；学校好像是书架子字纸篓的制造厂！”
“有些学校的教师，教学方法比较进步了，把注意的中心点，从书本上移到学生身上来了，凡是学生需要的，教师都拿来给他们，然而学生还是处在被动的地位，因为先生不能一生一世跟着。热心的先生，因想将他所有的传给学生，然而世界上新理无穷，先生安能尽把天地间的奥妙为学生一齐发明？”
对于教育上这种种的毛病，他认定有改革的必要。于是他在校务会议席上，提出用“教学法”代替“教授法”的主张。他说：
“好的先生，不是教书，不是教学生，乃是教学生学，就是把教和学联络起来。对于一个问题，不是要先生拿现成的解决方法来传授学生，乃是要把这个解决的方法，如何找来的手续程序，安排停当，指导他，使他以最短的时间，经过相类的经验，发生相类的理想，自己将这个方法找出来，并且能够利用这种经验理想来找别的方法，解决别的问题……”
这一个破坏传统教育方法的提案，仿佛立刻刺痛了在座的教授们，使他们的自尊心受到了损伤。他们对他，这一个初回国的青年教授，都投来轻蔑的眼光，联合反对他的“标新”主张。
为着理想的实现，他也不肯示弱，举出了许多实例，引出了许多理论，来辩论解释。结果，两小时过去了，大家争得面红耳赤，他的提案仍然不被通过。因此他也拒绝担任教育专修科主任的名义。
初步的教育改良的理想，顽固的社会都伸出铁掌拒绝容纳，他不免感到一些失望。但他绝不退却，仍然把自己的主张写成了一篇“教学合一”的论文，在《时报》的《教育新思潮》上发表。不久“五四”运动发生，学校中同事无暇坚持反对意见，他就把全校的“教授法”改为“教学法”。后来这“教学合一”更进一步发展为“教学做合一”的理论系统，成为他的教育理论的一个重要部分。
“五四”运动开辟了中国新文化的道路，“平民思想”渗进文化的各部门，陶行知和一些朋友，积极提倡平民教育。
一九二○年，他在南京高等师范，举办了第一次暑期学校，发动留校同学，每晚进行教邻近的一些“平民”识字。他在晚饭之后，总要按时跑到学校去查看。他和那些车夫、小贩亲切地谈话，问长问短，绝没有大学教授的架子。
有一个晚上，月亮那样好，他和几个朋友围坐在园中草地上，互相谈说各人的志愿。有人问他：
“知行，谈谈你的抱负？”
“我吗？”他沉着地回答着，“我的志愿就是要用四通八达的教育，来创造一个四通八达的社会。”
他解释平民教育的宗旨就是要叫种种人受平民化：“一方面我们要打通层层叠叠的横阶级，如贫贱、富贵；老爷、小的；太太、丫头；等等。素来是不通声气的，我们要把他们沟通。又一方面我们要把深沟坚垒的纵阶级打通，纵阶级最昭著的是三教九流七十行，江南江北，浙东浙西，男男女女等都有恶魔把他们分得太严，这种此疆彼界也非打通不可。”
这种想法后来是被现实粉碎了。可是当时他是精神十倍地来推行这个理想。
