陶行知说，平民教育的宗旨是要使所有人都平民化，通过平民教育来消除人与人的界限。他希望一方面要打通层层叠叠的阶级界限，如贫富、贵贱、老爷仆人、太太、丫头等，素来是不通气的，现在要让他们来一同读书，读同样的书，把他们沟通；另一方面，是要把深沟坚垒的各行各业打通。三教九流、七十二行、江南江北，浙东浙西、男男女女等都有恶魔把他们分得太严，这种彼此不通的局面也要打破。以前开办暑期学校，提倡职业学校，提倡男女同学，服务于中华教育改进社，都是为了这一目的。但他相信，大规模实行这一主张无过于平民教育，平民教育一来，四通八达的社会不久就要降临了。
提倡平民教育的最高目的，是为了培养共和国的人民，沟通人民的意见，使之和衷共济。而从事社会改造的人，要远处着眼，近处着手。陶行知认为，现在中国注重社会改造的人渐渐地增加，是一件很可庆幸的事，但是总觉得肯在近处着手的还是太少。我们要想做近处着手的工夫，最要紧的是划分范围，确定责任。社会的范围可大可小。大而言之，社会就是全世界；小一点就是一国；再小就是一省、一县、一城，再小就是我们最近的环境，在我们前后左右的邻居。他说，要能对社会有所贡献，最好是从我们最近的环境入手，逐渐地推广出去。我们最近的环境要改造的也很多。卫生问题、生计问题、道德问题、娱乐问题，以及种种别的问题都待解决，都是从事社会改造者不能放弃的。但是，要人们意见沟通，和衷共济，就要靠文字的作用，而现在有85％以上的人不识字，怎么能沟通、建立共和精神呢？所以解决人民不能读书识字的问题也是一个问题，而且是一个基本问题。所以他说：“平民教育是平常人民的教育，这种教育要用最少的时间最少的经费教导年长人民读书识字爱国做好人。”以教人民读书识字为改造社会的出发点。
1921年，经陶行知等人的奔忙和筹建，南京高等师范扩建为东南大学，陶行知任教授、教育科主任。这年9月，当年哥伦比亚的导师孟禄教授来华考察，他陪他在多处讲演、充任翻译，并随他先后到广东、上海、福建等地考察，到上海、南京、广东、杭州、济南、山西、河南等地进行教育调查，历时4个月。掌握了大量第一手材料，撰写了比较全面的中国教育情况统计材料。
1919年1月，陶行知参加了由江苏教育学会、北京大学、南京高师、暨南学校、中华职业教育社共组的新教育共进社，任该社社刊《新教育》的南京高师代表。1921年11月，《新教育》主干（主编）蒋梦麟赴美考察，陶行知被聘为主编。这年12月，实际教育调查社、新教育共进社、新教育编辑社开会讨论合并成中华教育改进社，蔡元培、范源濂、郭秉文等9人被选为董事，陶行知任主任干事。该社以调查教育实况、研究教育学术、谋求教育改进为宗旨，尤重视欧美教育状况的介绍，曾推行过“智力测验”“教育测验”和“道尔顿制”等心理、教育方法，该社请杜威和孟禄担任名誉董事，按各类学校如高、中、初等教育，和学科如数、理、化等下设32个委员会，对形成新学制、尝试新教育方法起过很大作用。
1922年5月，陶行知与胡适、蔡元培、梁漱溟、李大钊、陶盂和、丁文江等17人联合发表《我们的政治主张》，希望建立一个“好政府”。这个“好政府”，充分运用政治的机关为社会全体谋充分的福利；充分容纳个人的自由，爱护个性的发展。提出了建立“好政府”的三个基本要求：
第一，我们要求一个“宪政的政府”，因为这是使政治上轨道的第一步。
第二，我们要求一个“公开的政府”，包括财政的公开与公开考试式的用人，等等；因为我们深信“公开”是打破一切黑幕的唯一武器。
