由于原义务教育法的重心下移（即实行以县乡为主、地方负责和分级管理），义务教育在全国范围内的统一性没有得到应有的重视和保证，加之在义务教育领域片面追求效率优先（其表现为开办重点学校和办重点班），其结果是，义务教育在城乡间和学校间乃至在同一地区或同一学校内的差距不断扩大，贫苦人口子女、残疾儿童和少年、农民工子女和农村留守儿童和少年接受义务教育的困难越来越大，义务教育的不公成为继义务教育乱收费后又一个全社会反应强烈的热点问题。
新《义务教育法》在解决义务教育不公的问题方面取得了突破，它一方面旨在消除义务教育发展的不均衡，另一方面旨在解决特殊群体儿童和少年接受义务教育的问题。在消除义务教育发展不均衡方面，根据新《义务教育法》，国务院和县级以上地方人民政府将合理配置教育资源，促进义务教育均衡发展，改善薄弱学校的办学条件，并采取措施，保障农村地区、民族地区；国家组织和鼓励经济发达地区支援经济欠发达地区实施义务教育；县级以上人民政府及其教育行政部门应当促进学校均衡发展，不得将学校分为重点学校和非重点学校，学校不得分设重点班和非重点班，县级以上人民政府及其教育行政部门不得以任何名义改变或者变相改变公办学校的性质；县级以上人民政府应当加强教师培养工作；县级人民政府教育行政部门应当均衡配置本行政区域内学校师资力量，组织校长、教师的培训和流动，加强对薄弱学校的建设；国务院和地方各级人民政府鼓励和支持城市学校教师和高等学校毕业生到农村地区、民族地区从事义务教育工作；国家鼓励高等学校毕业生以志愿者的方式到农村地区、民族地区的学校任教。
在保证所有适龄儿童和少年公平接受义务教育和帮助特殊群体儿童和少年接受义务教育方面，新《义务教育法》第4条宣示，凡具有中华人民共和国国籍的适龄儿童、少年，不分性别、民族、种族、家庭财产状况、宗教信仰等，依法享有平等接受义务教育的权利。根据新《义务教育法》的规定，国家将保障家庭经济困难的和残疾的适龄儿童、少年接受义务教育；国务院教育行政部门和省、自治区、直辖市人民政府根据需要，在经济发达地区设置接收少数民族适龄儿童、少年的学校（班）；县级以上地方人民政府根据需要设置相应的实施特殊教育的学校（班），对视力残疾、听力语言残疾和智力残疾的适龄儿童、少年实施义务教育，特殊教育学校（班）应当具备适应残疾儿童、少年学习、康复、生活特点的场所和设施，普通学校应当接收具有接受普通教育能力的残疾适龄儿童、少年随班就读，并为其学习、康复提供帮助；县级以上地方人民政府根据需要，为具有预防未成年人犯罪法规定的严重不良行为的适龄少年设置专门的学校实施义务教育；对未完成义务教育的未成年犯和被采取强制性教育措施的未成年人进行义务教育，所需经费由人民政府保障；教师在教育教学中应当平等对待学生，关注学生的个体差异，因材施教，促进学生的充分发展；教师应当尊重学生的人格，不得歧视学生，不得对学生实施体罚、变相体罚或者其他侮辱人格尊严的行为，不得侵犯学生合法权益；特殊教育教师享有特殊岗位补助津贴，在民族地区和边远贫困地区工作的教师享有艰苦贫困地区补助津贴。
