根据1928年国民政府公布的《中华民国大学院组织法》规定：大学院为全国最高学术教育机关，管理全国教育行政及学术研究事宜，直属于国民政府。下设高等教育、普通教育、社会教育、文化事业、总务、秘书六处。高等教育处主管大学、专门学校、留学、各种学术团体及学位考试等；普通教育处主管初等教育、中等教育、职业教育及师资训练等；社会教育处主管博物馆、民众剧场、公民教育、平民教育、公共体育及特殊教育等；文化事业处主管出版、图书馆、文物、教材图书的编辑和审查等；总务处主管文书、会计和职员的招聘及辞退等；秘书处主管机要及院长委办的事项。另外设立大学委员会，聘专门学者为委员，是全国最高的教育学术审议机关。同时设立中央研究院，主管学术研究工作，研究院下设观象台、地质调查所、动植物园、社会科学研究所、理化实验研究所等。
省级教育行政组织，民国元年是在各都督府民政司内设教育科，总管全省教育行政；同年12月，改为在省署下设教育司；1914年6月，改设教育科；1917年9月，改教育科为教育厅，直属于教育部领导；教育厅下设三科，分管总务、普通教育和社会教育、专门教育和留学事宜。
1927年国民政府在中央设立大学院的同时，废止各省教育厅，改设大学区。以1省为1个大学区，每省设国立大学1所，以省名为大学名；由国立大学接替原教育厅主管省区内一切学术和教育行政事务。区内国立大学校长，负责管理区内一切学术及教育事宜；在校长之下设立评议会为本区的立法机关；设秘书处协助校长办理本区行政上一切事务；设研究院为本大学研究专门学术的最高机关；设高等教育处管理各学院及区内其他大学、专门学校及留学事宜；设普通教育处管理区内公立中小学及监督私立中小学教育事宜；设扩充教育处管理区内农学院及社会教育事宜。
从1927年6月开始，大学区制在江苏、浙江及河北3省试行。但试行不到1年，便遭到各地教育界的反对。国民政府被迫于1929年8月下令停止试验。
1928年10月，国民政府被迫改大学院为教育部，原属大学院的中央研究院独立为中央学术研究机构，直属于行政院。教育部下设总务司、高等教育司、普通教育司、社会教育司、蒙藏教育司、编审处及体育、训育、医学、音乐、史地、国语、侨民等教育委员会。它的职权主要为：（1）管理全国学术及教育行政事务；（2）对于各地方最高行政官执行本部主管事项，有指示、监督之责；（3）根据本部的主管工作，对各地方行政长官下达命令和处分，认为有违背法令或越权者，可请由行政院院长提请国务会议议决后停止或撤销。
与此同时，国民政府也恢复各省教育厅。恢复后的各省教育厅，直属各省政府领导，成为省政府组织机构的一部分。省教育厅下设四个科，负责办理各科事务；并另设督学4～8人。其职权主要为：主管省内各学校、社会教育、教育及学术团体、图书馆、博物馆、公共体育场事务；在不抵触中央和省政府决定的范围内，有权对自己主管的工作发布命令。
国民政府县教育行政机关是各县教育科，1946年后改为教育局。中央直辖市设立教育局，局下设科长、科员及督学、视察员与各科委员会。在省辖市设教育科，负责管理市内教育行政事宜。
（三）国民政府初期的学校教育
在学制系统方面，国民政府基本上沿用了1922年的“新学制”。1932年12月，教育部决定废除综合中学制度，颁布了《师范学校法》、《职业学校法》和《中学法》，将师范、职业和中学三类学校分别设立。
