但是，宪法为什么有效？法律规定为什么具有效力？法的效力究竟来自何处？对法的效力（等于公民对法律的服从）的要求依据是什么？围绕这些问题，西方法学理论界、学术上争论很多，呈现出令人眼花缭乱的多样性。有的主张来源于事实，有的主张来源于道德，有的主张来自逻辑，有的主张来自更高的法律（基本规范）。“各种学说通常各自将一个（主要的）法的形成因素视为主要的效力基础。”[9]这主要是人们坚持不同的效力观，而不同的效力观的背后是政治上、价值上哲学上的分歧。同时，法的效力与国家的合法性、权威性、社会控制能力密切相关。[10]由此看来，法的效力来源（基础）问题是传统法理学的一个基本问题，也是司法的核心问题。在这里，有必要介绍西方不同的法学学派对法的效力的来源这一问题的不同的看法。这种介绍主要有助于法律学子和法律工作者了解选择法理学立场，以及存在哪些选择可能性和衡量基础。[11]换言之，法律工作者应当对法为什么有效这一问题形成自己的信仰，应当以已有的法的效力来源依据来确立自己的立场。
自然法学派认为，法的效力的来源来自于正义，来自民众认可，来自于人们从内心接受法律规范，这种法律效力观又称为道德效力。民众对法律制度的遵守是基于共同的法律确信，而这种共同的确信根据是得到认可的社会道德的基本价值。例如，今天的基本权利和人权，法治国家思想和禁止法律滥用。“自然法被认为是道德效力的特殊表现。自然法的拥护者确信，自然法独立于国家制定行为。自然法的拥护者从自然法规范的道德确信力中推断出自然法也具有法律效力。”[12]
社会学法学派认为法的效力来自社会事实，是法对社会成员的实际的或事实上的约束力，亦即“实效”。人们遵守现行法律规范并照此办理，则法律有效，否则法律无效。这种现实效力观衡量的是已颁布的法律规范在现实生活中是否或怎样被遵守。正因如此，社会学法学普遍重视法律的实现过程及其结果的研究，有个别学者甚至认为法律的实现过程，特别是法官的行为才是法律自身。因此，社会学法学强调法律效力与法律实效的区分，认为法律实效是法律概念中的一个更重要的构成要素。
早期规范法学派认为来自主权者的命令，因为主权者是政治上占优势的人，而被法律所规范的人原先就有服从主权者的义务，所以法律有效力。现代分析法学沿着这一分析进路，指出：“法律”有效力是因为它是根据“有效的”程序公布，并且从那时起就没有被废除。法律规范的接受对象应无一例外地受到它的约束。“法律”效力表明的是普遍的效力要求，也就是法律规范接受对象都应遵守的当为。[13]新分析法学代表哈特还认为在形式有效性与实质有效性两个方面，形式有效性往往处于绝对和优先在位。“如果这些形式上的要求都已达到，那么该法律就可以被认为是有效的而毋须顾及其内容的性质。”[14]
