对程序性违法取得的证据，则应视违法的轻重程度区别对待。由于受长期以来重实体轻程序观念的影响，侦查实践中部分证据的取得难免会存在法律程序方面的疏漏，对此应该区别对待：轻微程序违法取得的证据应作为瑕疵证据对待，即不宜因轻微的程序违法问题就推翻证据的法律效力，明确规定可以通过补救的方式弥补证据瑕疵；严重的程序违法行为则不应纵容，为此可以将法律程序按重要性进行分级，凡违反的法律程序达到一定级别的即视为严重程序违法，与之相伴的往往是对当事人诉讼权利的严重侵犯，因此必须将其所涉及的证据予以排除。
（三）合理分配非法证据的证明责任按照新政治经济学理论，如果将追诉犯罪理解为国家机关为社会公众所提供的一项服务型公共产品的话，那么侦查机关就相当于这一公共产品的生产部门，其通过侦查活动查清案件事实并产生追诉犯罪的基本依据——证据。因此，侦查机关理应恪尽职守，保证所获取证据的法律效力。相对地，检察机关扮演的则是该产品的检验监督部门，有权要求侦查机关提供产品合格的相应证明和解释。证据材料经检察机关审查合格后，检察机关就需要对自己的检验结果负责，对证据的最终消费者——法官——承担产品合格的证明责任。因此，在审查逮捕和审查起诉阶段，对非法证据的证明责任只能由侦查机关承担，辩护方提供线索或证据只能说是一种主观的行为责任或推进责任，而不是客观的不利后果负担责任。[17]理想状态下，侦查机关在移送审查逮捕、审查起诉时，应当主动对每一项证据材料都附上相关合法性证明供检察机关审查。在实践中，检察机关虽然不可能事无巨细全部审查，但侦查机关至少应当对自身肩负的非法证据证明责任有所觉悟，将证明材料准备齐全不至于事后补救。此时，检察机关的主动审查采用的可以是强度较低的模式，如书面审查。
辩护方在非法证据审查过程中可以针对某一项证据的合法性提出“合理怀疑”，检察机关认为异议成立便可以采用强度更高的证据审查模式。虽然这种异议需要一定的事实和理由支撑，但并不意味着辩护方应承担结果意义上的证明责任。其提供相关线索或证据的目的主要在于说服检察机关投入更多的司法资源发动强度更高的证据合法性审查程序，如举行听证。
通过对非法证据排除规则试点项目的研究发现，目前的现实问题是“对非法证据的是否合法问题，不仅辩方难以提供证据，而且控方举证也十分困难”。[18]辩护方在刑事诉讼中处于弱势地位，难以举证很好理解，而控诉方举证困难则有其深层原因。一方面是因为在证明逻辑中，要证明某事物不存在的难度要远高于证明其存在的难度；另一方面则是由于我国侦查活动仍然有待进一步规范，呼吁多年的全程录音、录像等配套制度到目前仍旧是“雷声大雨点小”。对此，侦查机关应该转变不重视合法取证的传统观念，避免继续深陷承担证明责任的被动局面之中。
（四）细化非法证据的排除程序按照排除程序的启动模式划分，在检察机关的审查环节可以分别建立依职权常规审查程序和依申请特殊听证程序两种排除方式。依职权开展的常规审查是检察机关将非法证据审查融入审查逮捕、审查起诉的日常工作中，对所有移送的证据材料进行强度适中的无差别覆盖式审查。当检察机关认为某一项证据的合法性存在疑点时，其可以向侦查机关调取或通知补正相关的合法性证明材料。通过调查发现确实存在非法取证行为或侦查机关无法充分证明证据合法性的，检察机关则应出具证据不合法拟予排除的初步审查结论。如果检察机关拟予排除的证据是对犯罪嫌疑人有利的证据，则须书面通知犯罪嫌疑人及其辩护人，告知其有权提出异议并申请组织听证；其余的拟予排除证据中的非法言词证据则直接予以排除，非法实物证据和非法衍生证据则按照部门负责人、检察长、检察委员会的三级审批制报请是否作出排除决定。
