随着经济社会的发展，随着文明观念的发达，肉刑的弊端日益显现。肉刑的残酷性；肉刑断绝了犯罪人改恶从善的机会；肉刑无助于消灭犯罪，还会助长犯罪。肉刑尤其是宫刑妨害人口的繁衍，不利于人口的增加。肉刑残害身体的完整性，不但不能为社会创造财富，而且增加社会的负担。肉刑是一种永久的耻辱，树立了犯罪人对统治者的敌对情绪，造成了犯罪人及其家属对统治者的紧张关系。
要求废除肉刑的呼声越来越高，但是反对的声音也很坚定。在汉朝和南北朝时期，对肉刑存废的争论达到高潮。在对肉刑的作用没有达成共识的情况下，对肉刑的态度就表现为犹豫不决，是否使用肉刑，就取决于皇帝或者赢得多数的大臣的观点，取决于社会形势。这也是肉刑在汉文帝时期被废除后，一直反复的原因。
替代刑的出现，既可以实现肉刑的功能，而且避免了肉刑所存在的弊端，废除肉刑而选择替代刑是自然的选择。肉刑作为一种刑罚，具有它的功能。肉刑的废除，必须有替代刑来实现肉刑的功能，否则肉刑的废除是不可能的。肉刑的废除，不仅仅因为它的残酷不得人心，更在于合适的替代刑的出现。“从肉刑存废之争中，笔者得到一个启示，即在废除死刑前有必要先解决死刑的替代刑问题，以求建立一个完善的刑罚体系。”[14]周朝的嘉石（带械示众）、圜土（重罪犯被关进监牢，强制劳动，不改不放的制度）、役诸司空（在司法机关的监督下强制劳动）等自由刑制度的出现，为肉刑的废除提供了更优的选择。秦汉时期的复作（罪犯身着赭衣，区别普通群众，以示惩罚）、罚作（强制罪犯舂捣粮食为内容的自由刑）和司寇作（强制罪犯编制精致竹器为内容的自由刑）。后来还出现的刑罚有城旦（以编制竹制装盛物品为内容的自由刑）、鬼薪（使用整株竹竿编制器具的自由刑）、白粲（从事缉薒为席的自由刑）等。货罚出现于周初，但是广泛适用于周穆王刑罚改革。这些刑罚方式都在尝试成为肉刑的替代刑，哪种方式既能替代残酷的肉刑又能实现肉刑在刑罚体系中的功能，需要经历历史的检验。
汉文帝时期的刑罚改革，虽然废除了肉刑，但是因为缺少合适的替代刑，所以没有形成均衡的刑罚体系，这不但引起后世关于肉刑存废的争论，而且肉刑屡有反复，或者作为一种制度，或者法外用刑。刑罚不均衡的表现是：（1）“死刑过多，生刑过少”。用死刑取代斩右趾，死刑数量剧增。笞刑因为没有执刑规则，往往导致受刑人死亡，实际上笞刑成为变相的死刑。笞刑的执行没有规则，导致很多受刑人死亡，使得死刑与徒刑之间无法衔接。用笞三百代替劓刑，用笞五百代替斩左趾，由于没有规定笞的大小、长短、厚薄、打击部位和是否中途可以换人等执刑规则，导致很多犯罪人死亡。（2）“死刑太重，生刑太轻”。死刑与重罪对应，肉刑与中罪对应，徒刑与轻罪对应。汉文帝肉刑肉刑以后，笞刑、徒刑和死刑来代替肉刑，但是笞刑多导致受刑人死亡，那么死刑与生刑之间就缺少衔接。对待危害不大不小的中罪，用笞刑或者死刑过重，而用徒刑又过轻。
