另一种意见认为，在行政诉讼期间，当事人不履行行政处罚决定，对逾期缴纳罚款所加处的罚款的执行应区别不同情况作不同处理。理由如下：第一，行政诉讼法第四十四条虽然规定“诉讼期间，不停止具体行政行为的执行”，但具体行政行为不因复议或诉讼而停止执行原则是基于国家意志先定力原理推导出来的，在有权机关作出最后决定之前，推定其为合法，而具体行政行为是否合法，要由有权机关作出决定。行政诉讼法第五条规定“人民法院审理行政案件，是对具体行政行为是否合法进行审查。”而当行政处罚的相对人不服行政处罚决定，向人民法院提起行政诉讼后，行政处罚决定是否合法，只有在人民法院作出终审判决之后，才能得出结论。行政处罚相对人因不服行政处罚决定提起行政诉讼后，对该行政处罚司法审查的时间和结果是由人民法院的司法行为所决定，并非行政诉讼当事人能把握。本着公平合理的原则，对行政诉讼期间相对人不履行行政处罚决定所确定缴纳罚款义务的，不应计算加处罚款，加处罚款的时间应从行政终审判决书生效后起算。第二，虽然行政诉讼法第四十四条规定了行政诉讼期间不停止具体行政行为的执行，但行政诉讼法此条规定的立法本意是制止那些行政处罚决定作出后行政处罚相对人仍继续为违法和对社会有危害的行为，而非因提起行政诉讼而拒不履行行政罚款的行为。行政处罚决定作出后，行政相对人已停止了违法行为，其不履行行政处罚决定所确定缴纳罚款的义务并非是违法行为的继续，仅仅是对罚款有异议而提起行政诉讼并拒绝履行。这与既不提起行政诉讼又不履行生效行政处罚决定且继续为违法行为的情况有本质的区别，而且对社会公共利益的损害和对社会的危害性也不相同。据此认为，应对行政处罚相对人在处罚决定作出后的这两种拒绝履行行为区别对待，对加处罚款有异议而提出行政诉讼的，诉讼期间应停止执行。基于这些认识，建议对行政诉讼期间不停止执行原则作相应的修改或用司法解释加以弥补。第三，任何一种处罚的设定都要适度和适当，相对人所受到的处罚与其违法行为的违法程度应当相对应，即处罚的幅度与违法行为所造成的危害程度应相当。因为行政处罚的目的是制裁行政相对人的违法行为，行政相对人所受处罚应当与其所实施的违法行为的违法程度相一致。假如从行政处罚决定生效包括行政诉讼期间在内一直计算到当事人交纳其加处的罚款，如果一审用时3个月，当事人交纳的滞纳金将是罚款的近3倍；如果经过二审，滞纳金将会更高。这对行政相对人是不公平的。而执行罚款也不应视为具体行政行为的内容，在行政诉讼期间停止执行也不危害社会公共利益；相反，若如数执行，难显公平，在法律效果和社会效果方面也难以统一。
