事实上，早在公元2世纪，汉武帝就接受董仲舒“强干弱枝”的建议，多方削弱诸侯的势力，最后使王国大者封地不超过十余城，小者只相当于一个县，并错落在大量汉郡之间。贾谊的《治安策》也曾献计说：“欲天下之治安，莫若众建诸侯而少其力。力少则易以使义，国小则无邪心。”元朝统治者吸取汉唐以来地方割据势力凭险对抗中央的教训，突破了按山川地形划分政区的传统原则，从政治和军事目的出发重新设计行政区，首次建立行省制，在省级区划中实行犬牙交错的策略，无视自然地理环境，把同一的自然地理单元分割给不同行省，形成以北制南的政治军事控制格局。这种做法虽然有助于避免分裂割据，但是也加剧了经济区域的分割。[23]这些王朝的统治者都只是从王权自身的稳定性出发，通过操纵行政区划来削弱地方权力。在今天看来，他们的理由当然不足取。同样，某些学者认为增加省的数量可以弱化省的权力，防止省领导向中央“叫板”、挑战中央权威。这种理由也不具备足够的正当性，因为地方和中央的权力冲突应该从宪政分权的大视角来评判，而不应先验地站在维护中央权威的立场上主张削弱地方权力，更何况绝大多数农业人口集中的大省并不拥有挑战中央的资源优势。
衡量省级建制的正当标准是省级治理能力和效率。1949年后，中国虽然对省级区划做过调整，但是仍然强调行政区划的政治性和行政性作用，忽视了行政区划对经济发展的影响，从而降低了有限资源的宏观配置效益。省级建制的数量没有根据经济和社会发展而突破历史限制，致使某些省份规模过大，人为降低了治理效率。当然，省级建制并没有任何固定的公式可循，我们也不必照搬美国或任何其他国家的安排。事实上，美国各州人口也同样差异巨大，最大的加州将近3600万人，而华盛顿特区只有55万人，佛蒙特州只有62万人。尽管如此，目前省和县在数量上确实存在不均衡的现象，某些省的人口数量过大，县的数量过多，从而对实现“省管县”构成障碍。从美国等国的经验来看，中央以下的省级单位数量可以控制在50到60个之间，省以下的县级单位应该控制在100个以内。[24]如果中国将省级单位的数量扩大一倍，那么每个省内县的平均数量就只有50个左右，显然处于省政府有效管辖的能力范围之内。虽然中国人口压力大，从乡镇直到省的建制不可能有太大的变动空间，但是如果适当调整省和省内县级单位的数量，维持现有市、县和乡镇总数基本不变（但不排除拆分某些人口过多的乡镇），[25]那么实现宪法规定的四级政府模式应能优化中国的地方政府结构并提高地方治理效率。
（三）“省管县”
中国目前正在进行行政区划改革试验，从“市管县”的五级体制逐步回归“省管县”的四级体制。到2002年底，全国332个地级单位中已有275个改为地级市，其所领导的县占县级单位总数的70％以上，覆盖近10亿人。“市管县”体制带有明显的“农村为城市”之倾向，所辖县成为市的“菜篮子”和工业原材料基地。由于农产品的生产与价格长期受到计划控制，市主导下的城乡合治使农业利润向城市集中和转移更为便利。在“市管县”体制下，县完全听命于市，许多市将县视为附属行政单位，要求县经济从属于市经济发展的需要。从天而降的市一级行政经济来源非常有限，因而只有向下获取资源才能维持自身的积累和发展。“市管县”实际上成了“市吃县”、“市卡县”、“市压县”，农村的社会经济资源与资本主要被市所汲取；农业利润非但没有为农村的经济发展作出有效积累，反而导致农村地区经济和社会发展的日益落后。相比之下，一直坚持“省管县”的浙江却取得突出的农村经济发展业绩。在1978年到1998年的20年间，浙江县域经济采取了以农村工业化为主导的发展模式。1998年，浙江省针对城市化大大滞后于工业化的现实，开始以县城和中心镇建设为重点。中财办副主任陈锡文认为，浙江的“省管县”财政制度保证了县域经济发展所需资金，促进了城乡一体化进程。浙江农村居民纯收入水平已连续19年高居全国榜首。[26]
