实行职权法定原则，主要是由行政权的性质、行政主体的法律地位以及人民民主的国家性质所决定的。
行政主体的职权，具有双重性质。一方面，行政主体的行政权，在维护社会秩序，增进公共利益，保护行政相对人的合法权益，具有积极能动的作用；另一方面，行政权是对社会和行政相对人的一种支配力量，可能会对社会产生消极作用，甚至危害行政相对人的合法权利。因此，要对行政权作必要的监督制约，而职权法定正体现了这一点。
国家行政的本质特征，不是以追求经济效益最大化为标准，而是以执行法律法规、促进经济发展和社会进步为己任；行政行为受国家强制力的保证，行政相对人必须服从行政机关的单方意志。国家行政的这些特点，使行政机关及其公务员在行使职权的过程中，存在扩大或滥用职权的内在动力和对行政相对人的权益造成某种损害的可能性；特别是在行政权缺乏监督制约的情况下，就很有可能产生帕金森定律所说的不计成本、效率低下等弊端和布坎南学说中的权力扩张和寻租的问题，故而法律必须对行政权予以严格的规范和必要的监督制约。美国宪法之父麦迪逊二百年前就说：“如果人人都是天使，就不需要任何政府了。如果是天使统治人，就不需要对政府有任何外来的或内在的控制了”。
从行政主体的法律地位上讲，不论是国家行政机关，还是其他行使行政职权的社会组织，其职权都是由法律确定的。行政主体不同于独立的私法人，行政权力与公民、法人或其他组织的权利不同：行政主体只能为法律允许的事，而公民、法人或其他组织可以为法律不禁止的事。亚当·斯密在《国富论》中说：“每个人，只要他不违背正义的法律，就应允许他去按照他的方式去追求他的利益”。换言之，凡法律没有禁止的，相对人皆可为之；凡法律没有授予的，行政主体不得为之；法律禁止的当然更不得为之，否则就是超越职权。如果行政主体也像公民、法人或其他组织一样，可以为法律不禁止的事，就混淆了公权力与私权利的边界。
职权法定原则体现了历史发展的必然性。从近代资产阶级革命开始，人民主权和法律至上等学说，肯定了行政权的所有者是人民，政府只是权力的行使者。卢梭从社会契约论出发，认为国家权力是公民让渡其全部“自然权利”而获得的。许多国家都在宪法中确认人民主权原则，并在法律上确立了依法行政原则。我国宪法确认国家的一切权力属于人民，国家行政机关都由人民代表大会产生，对它负责，受它监督。依法行政体现了宪法的本质要求，行政权不是行政主体本身固有的，而是经法律或权力机关授予的，行政权的来源要有法律的明文依据，政府及其部门自己不能给自己授权，行政行为不得违反法律。行政处罚、行政强制、行政许可、行政征收等行政行为，都不是行政机关的当然权限，都需要法定；政府在公共利益需要时，积极履行职责，也要依法进行；即使是行政机关职权范围内的事项，也并不意味着其有权采取任何手段达成自己行政管理的目的。
