就量刑自由裁量权的运行而言，不论大陆法国家还是英美法国家，无不在赋予法官量刑自由裁量权的同时，通过一定的模式对其监督和制约。
从宏观上看，西方一些国家通常采用权力分立与制衡的权力分配模式并通过一套完整的法律制度来监督、制约包括量刑自由裁量权在内的审判权，我国宪法则赋予检察院享有广泛的法律监督权从而实现对审判权的外部监督和制约。依照《人民检察院刑事诉讼规则》的相关规定，人民检察院享有“立案监督权、侦查监督权、审判监督权、刑事判决、裁定监督权、执行监督权。”对刑事审判权的监督主要包括“审判监督”和“刑事判决、裁定监督”，[1]同时通过上下级法院之间的内部监督以及人大的有权监督，在宏观上实现对量刑自由裁量权制约。
从微观上看，中外各国通常依靠刑事实体法和刑事程序法来规制、调节、指引法官量刑自由裁量权的适度行使，在保障刑法规范所追求的刑罚目的在个案中实现、达到量刑公正的同时，又避免法官量刑自由裁量权的滥用，维护法治秩序。申言之，规制法官量刑自由裁量权，在微观层面上大体可采取刑事实体法模式和刑事程序法模式。
刑事实体法模式是指通过对制定指导、规范量刑活动的规范性文件，指引法官依据或者参照该规范性文件确定对被告人适用的刑罚。以美国刑事司法中的量刑为例，美国在制定联邦量刑指南之前，其量刑也广泛存在着非同寻常的差异，并因此而遭受到来自社会各方面的指责。“初审法官的一个重要任务就是对刑事被告量刑。任何人怀疑司法裁量普遍且广泛存在，并因此怀疑法条作为对法官作为之描述是否有局限。……在量刑指南之前，如何在国会规定的通常相当宽泛范围内严惩某个定罪被告，其诸多决定因素几乎与法律分析完全无关；这些因素更多取决于法官在不当行为的个人与社会责任如何划分，报复刑是否道义，恢复刑是否可行以及刑事惩罚是否有震慑效果这样一些宏大的、争不出头绪的、宽泛意识形态争议上的态度。没有演化出联邦量刑的普通法来指导法官在制定法幅度内确定刑期。这种决定留给了地区法院法官个人不受约束的裁量权。”{5}(P66)随后，美国国会于1984年制定了《量刑改革法》，它赋予美国司法系统中一个独立的机构—美国量刑委员会—审查和合理处理联邦量刑程序的广泛权力。美国量刑委员会在1987年向美国国会提交了《量刑指南》。《量刑指南导言》部分指出：“在花费了相当的时间、物力和人力探索可能的替换方法之后，委员会对这些指南不断进行改进以作为一种实际的努力，去追求实现一个更诚实、更统一、更平等、更能做到罪刑相适应，从而也是一个更为有效的量刑制度。”{6}(P5)《量刑指南》在美国刑事司法中的广泛应用，对于实现量刑公平、公正、均衡及规制法官量刑自由裁量权起到了积极作用。目前我国各地方法院也尝试制定一些指导量刑的规范化文件，如深圳市中院制定的《深圳市中级人民法院量刑指导意见（试行）》、江苏省姜堰市法院制定的《规范量刑指导意见》以及山东省淄博市淄川区法院制定的《常见百种罪名量刑规范化实施细则》等，都是在实体法层面规制量刑自由裁量权从而实现量刑规范化所开展的富有成效的探索。
刑事程序法模式是指在刑事诉讼过程中，通过建立、完善一系列诸如公开审判、庭审回避以及赋予被告人享有广泛且具有实质意义的辩护权、沉默权等制度以限制法官量刑自由裁量权，有效保障被告人权利，从而实现量刑公开、公正、均衡。需要指出的是，在通过程序规制法官量刑自由裁量权的各项制度设计中，量刑程序至少是被英美法国家实践证明了的行之有效的方式。其实质是把量刑纳人法庭审理，使量刑活动公开化、透明化、减少量刑恣意与暗箱操作，过滤掉量刑中的非理性因素，以达到量刑公开、公正及均衡。其前提是定罪程序和量刑程序的分离，即通过发动刑事控诉程序确定被告人有罪后，再通过量刑程序确定被告人刑罚，这种做法迥异于大陆法系国家定罪程序与量刑程序合一的诉讼模式，它的一大特色是“可以使得控辩双方充分参与到量刑程序中，使量刑更加透明化与公开化，促进量刑的合理性与公正性。”{7}(P29)但其缺点在于一个案件要经历定罪程序和量刑程序，并且后者的繁琐程度亦不亚于前者，由此导致诉讼成本的极大增加，诉讼效率的滞后。
