首先看全国人大的意思表示，取消农业税是作为我国农村税费改革的一个组成部分而提出的，因此，必须从农村税费改革的合法性入手。从2000年起，我国在安徽等地开展了农村税费改革试点，2002年试点扩大到20个省、自治区、直辖市，试点地区农民负担平均减轻30%。对这项改革，温家宝总理在《政府工作报告》中作了全面说明，并且提出：“农村税费改革试点在总结经验、完善政策的基础上，在全国范围内推开。认真落实减轻农民负担的各项政策措施。”十届人大二次会议于2004年3月18日批准了这一报告，使得农村税费改革具备了合法性基础。取消农业税作为其中的一项措施，因此也获得了全国人大的认可。
其次看全国人大常委会的意思表示，全国人大常委会曾在1984年授权国务院改革工商税制发布有关税收条例草案试行，将工商税制的决定大权授予了国务院，直至今日，我国20多个税种中，也只有三部法律（包括《
农业税条例》），占我国税收收入主体部分的增值税、消费税、营业税、关税以及企业所得税都是通过国务院的行政法规开征的，农业税仅占我国税收收入的1%左右，为什么不能由国务院通过行政法规来开证或者减征呢？事实上，1983年国务院开征的农林特产税以及1994年国务院开征的农业特产税实质上都是农业税，因此，国务院早就在行使农业税的开征和减免权。而1984年以及1985年全国人大常委会两次授权国务院在经济体制改革和对外开放方面制定暂行规定或者条例，实际上是承认了国务院对农业税的开征和减免权。
第三，从法治国的基本原则来看，增加人民负担的事项必须通过法律来规定，而减轻人民负担的事项却并不要求严格的法定。因此，取消农业税作为一项减轻全体农民负担的一项政策并不需要通过严格的法律来规定。在其他税种领域也存在这种现象，如个人所得税领域和涉外企业所得税领域。
第四，从全国人民的意思表示来看，取消农业税是绝大多数人民的意愿，也是绝大多数学者的呼声。2003年10月14日党的十六届三中全会通过的《
中共中央关于完善社会主义市场经济体制若干问题的决定》明确要求“逐步降低农业税率，切实减轻农民负担”。2004年2月8日发布的《中共中央、
国务院关于促进农民增加收入若干政策的意见》中也明确要求“逐步降低农业税税率”。党的决议虽然不能代替法律或者超越法律，但是，党的决议是全国人民意志的另一个表达方式，也是我国制定政策与法律的指导方针。1958年的农业税是在党的指导方针下制定的，现在的农业税改革同样应该在党的指导方针下进行。既然党的最高指导方针已经明确了逐步取消农业税的政策，那么，取消农业税就具备了合法性的基础。
