康有为非常重视教育的作用。在他看来，教育比军事更重要。他说：“尝考泰西之所以富强，不在炮械军器，而在穷理劝学。”他认为教育是国家富强之本，“才智之民多则国强，才智之士少则国弱”。他认为教育不良是中国贫弱的原因所在，是为“今天下治之不举，由教学之不修也”。他还认为，教育是决定人善恶智愚的因素，他主张社会国家如同人性一样，是可以通过教育加以改良的。因此，康有为特别重视学校的开民智作用，在《大同书》中，康有为表述了在理想的“大同”社会中学校教育所占的最重要的地位，“太平世以开人智为主，最重学校”。由于有这样的认识，因此他把教育作为维新变法的重要手段，这对教育的改革和维新变法思想的传播都有促进作用。但他也过分夸大了教育的作用，注重以教育手段来变法，显示出他改良主义的软弱性。
康有为深刻揭露了科举制度的弊病。他曾上书光绪帝，主张废除八股取士。在晋见光绪帝时，康有为痛陈八股之害，将割地、赔款，轮船、铁路、矿务、商务之输，以及国弱、民贫都归结为八股所致，促使光绪帝当即同意废除八股。光绪24年五月初五，即公元1898年6月23日，光绪帝下诏：“自下科为始，乡会试及生童岁科各试，向用四书文者，一律改试策论”。同年五月，康有为还上呈了《请停弓刀石武试改设学校折》，极力主张停止传统无用的弓矢之武试，代之以广设武备学校，来培养兵学人才。康有为废八股、停武试的主张，对改革科举制度起了很大的促进作用。
在主张废除科举的同时，康有为提出了自己的学校教育体系，极力主张开设学校。他以《请开学校折》上书光绪皇帝，主张仿效德、日学制，通令全国各省、府、县、乡开设学校。他提出了一个完整的学校教育体系：乡立小学，儿童7岁入学，学习文史、算数、舆地、物理、歌乐，八年毕业，此阶段实行强迫义务教育，儿童“不入学者，罚其父母”；县立中学，儿童14岁入学，先入初等科学习两年，再入高等科学习农、商、矿、林、机器、工程、驾驶等专门学；省府立专门高等学校和大学，大学分经学、哲学、律学和医学四科；京师设立一个规模较大的大学堂。此外，他还建议设立图书仪器馆、师范学堂，撰写课本，制定章程，并主张“非专立学部”不可。这些建议，在“百日维新”期间得到了部分实现，对于以后的学制也有一定的影响。
康有为在《大同书》中详细提出了他理想中教育制度的蓝图，在许多地方与上述制度大略相同。又增加了一级，即为3~5岁的幼儿设立育婴院，以“养儿体、乐儿魂、开儿知识”为主要任务，这是清代最早提出的学前教育的主张。康有为希望通过他所设计的四级教育体系，为他的大同社会培育德智体美都具备的新型人才。康有为所拟的教育制度，是中国最早提出的一个全面而系统的新教育制度，虽然有许多空想的成分，但在当时是有进步意义的。
