进入21世纪，国家对义务教育的着重点转向义务教育均衡发展。“十五”期间，国家先后出台了《国务院关于基础教育改革与发展的决定》《国务院关于进一步加强农村教育工作的决定》，明确提出各级政府要增加对义务教育的投入，及时做出西部“两基”攻坚的战略部署和新增教育经费主要用于农村的重大决策。中央和地方设立专项资金，实施了“国家贫困地区义务教育工程（第二期）”“全国中小学危房改造工程”“农村寄宿制学校建设工程”“农村中小学现代远程教育工程”以及“中小学教师继续教育工程”“两免一补”等重要工程。这些措施对义务教育均衡发展发挥了极其重要的作用，其效果十分明显。例如，2003年年底，中央投入10亿元，地方配套9.1亿元，在中西部20个省份约11万所中小学开展了现代远程教育工程试点，共建成20977个教学光盘播放点、46605个卫星教学接收点，7094个计算机教室。覆盖西部各省（自治区、直辖市）25%左右的农村中小学，约925万名中小学生受益；覆盖中部6省21%左右的农村中小学，约644万名中小学生受益。[9]
为了更好地用法律规范义务教育发展，2003年年底教育部启动了《中华人民共和国义务教育法》的修订工作。经过近三年的努力，2006年6月新修订的《中华人民共和国义务教育法》公布。新修订的《中华人民共和国义务教育法》由1986年的18条扩充成8章63条，对学生、学校、教师、教学、经费保障、法律责任等做了全面规定，不仅进一步强调了义务教育的公益性、统一性与强制性原则，将均衡发展作为义务教育发展的方向和原则，还明确将义务教育全面纳入财政保障范围，把“以县为主”的义务教育管理体制写入法条当中，并将义务教育实施素质教育升至法律规定。新修订的《中华人民共和国义务教育法》的颁布与实施，对21世纪的中国教育发展来说，是一件具有深远意义的大事，对整个教育的发展具有奠基性的意义和深远的历史作用，是义务教育的一个新的里程碑。它为我国义务教育的发展提供了全新发展范式以及管理机制与制度支持，为义务教育的高质量发展提供了法律保障。
在解决了适龄儿童“有学上”的问题之后，为了进一步实现“上好学”的目标，21世纪以来，党和国家将均衡发展作为我国义务教育发展的新目标，大力解决义务教育发展不均衡问题。2002年2月教育部发布的《关于加强基础教育办学管理若干问题的通知》中，就提出了“积极推进义务教育阶段学校均衡发展”的要求。2005年5月，教育部颁布的《关于进一步推进义务教育均衡发展的若干意见》又明确要求“逐步实现义务教育的均衡发展”。2006年6月，“均衡发展”作为义务教育发展的方向性要求被明确写入修订后的《中华人民共和国义务教育法》。
2010年1月，教育部印发了《关于贯彻落实科学发展观进一步推进义务教育均衡发展的意见》，强调“将推进均衡发展作为义务教育改革与发展的重要任务”，提出力争在2012年实现区域内义务教育初步均衡，到2020年实现区域内义务教育基本均衡。在推进义务教育均衡发展上，强调要“以提高教育质量、促进内涵发展为重点”，并“加强制度建设，依法建立和完善推进义务教育均衡发展的有效工作机制”。同年7月，中共中央、国务院印发了《国家中长期教育改革和发展规划纲要（2010-2020年）》，明确提出“均衡发展是义务教育的战略性任务”，要求“推进义务教育均衡发展”。
2012年，国务院专门印发了《关于深入推进义务教育均衡发展的意见》，提出全国实现义务教育基本均衡目标和任务。2011—2012年，教育部分三批与31个省（自治区、直辖市）和新疆生产建设兵团全部签署了义务教育均衡发展备忘录，构建起中央部门和省级人民政府共同推进义务教育均衡发展的机制。北京、河北、河南、福建、湖北、江西、广西、贵州、海南、甘肃、内蒙古、青海、宁夏、新疆等省（自治区、直辖市）加强省级统筹作用，采取省级政府与辖区内市级或县级政府签署义务教育均衡发展责任书等形式，将本省份确定义务教育均衡发展的目标、任务和责任层层分解、逐级落实，明确县域义务教育基本均衡发展时间表、路线图和任务书。2012年，教育部印发了《县域义务教育均衡发展督导评估暂行办法》，建立和完善了均衡发展督导评估制度，形成了“县级自评、地市复核、省级评估、国家认定”的四级联动督导工作体系，为各地开展义务教育均衡发展督导评估提供了标准和依据。2013年5月，义务教育发展基本均衡县（市、区）督导评估认定工作正式启动。《2017年全国义务教育均衡发展督导评估工作报告》显示，截至2017年，全国有2379个县义务教育发展实现基本均衡，北京、天津、上海、江苏、浙江、福建、广东、吉林、安徽、山东、湖北11个省份整体通过国家督导评估认定，山西、内蒙古、辽宁、江西、重庆、陕西、宁夏7省（自治区、直辖市）通过认定县的比例均超过80%。
2013年12月，教育部、国家发展改革委和财政部联合出台《关于全面改善贫困地区义务教育薄弱学校基本办学条件的意见》。其指导思想为统筹规划、突出重点、循序渐进，加强科学化精细化管理，提高资金使用绩效。其实施原则为覆盖贫困地区，聚焦薄弱学校；坚持勤俭办学，满足基本需要；加强省级统筹，分步逐校实施。其实施范围和主要目标为中西部农村贫困地区为主，集中连片特困地区为主，消除“大班额”现象，降低辍学率。重点任务：保障基本教学条件，改善学校生活设施，办好必要的教学点，妥善解决县镇学校大班额问题，推进农村学校教育信息化，提高教师队伍素质，特别是农村教师队伍素质。
此后，各地纷纷探索实现义务教育均衡发展的有效机制。主要包括：一是改善贫困地区和薄弱学校的办学条件，促进优质资源均衡配置，为促进教育公平提供“硬件”支持。二是推进义务教育免试就近入学，为推进教育公平提供政策支持。免试就近入学作为国家义务教育招生入学的基本政策不仅可以维护社会公正，而且能保障儿童教育机会均等，减轻儿童入学负担。三是深化义务教育育人方式改革，推进素质教育，开展减负行动。四是制定政策扶持薄弱地区，加快普及高中阶段教育。
进入21世纪以来，我国义务教育取得了迅猛的发展，不仅实现了我国一个多世纪以来的义务教育普及、免费的梦想，而且站在了新的历史起点上，义务教育得到了进一步的巩固和提高。
