另一种观点认为，仲裁机构或仲裁庭对仲裁案件的管辖权和仲裁协议效力认定权的依据，是双方当事人之间的仲裁协议，认为按照当事人意思自治原则，在他们约定将其争议交付仲裁解决时，即意味着将协议项下的一切争议，包括对该协议效力的异议交由仲裁解决。因此，当双方当事人就仲裁协议的效力产生争议时，如果一方当事人将此项争议提交仲裁机构，该仲裁机构依照当事人之间的仲裁协议，即可取得对该项争议的管辖权，并就该仲裁协议的效力作出裁定。
笔者认为，上述两种观点均有其合理性，在实践中也都有所体现。可以说，当事人意自治是基础，各国国内立法及有关机构的规定是前提。只有将这两者有机结合起来，才能比较合理地解释仲裁机构认定仲裁协议效力的权力依据。
需要指出的是，仲裁庭与仲裁机构这两个概念并不是在任何情况下都能够完全重合的。在临时仲裁的情况下它们是一致的，因为临时仲裁庭本身就是一个机构，即临时仲裁机构，当仲裁案件审理结束并作出裁决时，该仲裁庭即不复存在，这一临时仲裁机构的使命也就完成了。但在常设仲裁的情况下，仲裁机构与仲裁庭就是两个不同的概念，因为它们的功能是不同的。仲裁庭的功能是负责对特定仲裁案件的审理，其使命随着仲裁裁决的作出而结束；常设仲裁机构的主要任务，则是负责对整个机构日常运转工作进行管理，它并不参予对特定仲裁案件的审理，只是对仲裁提供某些服务，诸如受理仲裁申请，收取仲裁费，协助组成仲裁庭，提供秘书、翻译、庭审等方面的服务，等等。有的仲裁机构还有权就仲裁协议的效力作出初步或最终决定。例如，瑞典斯德哥尔摩商会仲裁院可就仲裁协议的效力作出初步裁定，以决定是否受理该特定的仲裁案件。如果回答是肯定的，则将该案移交给仲裁庭，仲裁庭仍然有权对该仲裁案件所涉及的仲裁协议的效力作出最后裁定。
我国的情况则有所不同。按照我国仲裁法和有关仲裁机构仲裁规则的规定，有权对特定仲裁案件所涉及的仲裁协议的效力作出决定的不是仲裁庭，而是仲裁委员会这一常设机构。此点可以从上述
仲裁法第
20条第1款、
中国国际经济贸易仲裁委员会仲裁规则第
4条的有关规定中得到证明。不仅如此，在仲裁实践中我国也是这种做法。例如，在“多宁轮”滞期费争议案中，争议双方（中国某远洋运输公司和山西某外贸公司）签订的租船合同中有一个仲裁条款，但该仲裁条款对仲裁机构的约定不明确，被申请人山西某外贸公司遂对该仲裁条款的效力提出了异议。已组成的仲裁庭将这一异议提交到中国海事仲裁委员会作出决定。经过审理，1996年2月9日该仲裁委员会作出如下决定：第一，本会有权根据本案租船合同第42条（即仲裁条款）的规定，受理出租方提起的“多宁轮”滞期费争议案；第二，仲裁庭将继续审理“多宁轮”滞期费争议案。
在法院方面，法院对仲裁协议效力的认定权来源于法律。既然仲裁协议是当事人之间就协议项下的争议提交仲裁解决的合意，本质上属于一项契约性安排，那么在当事人就该项契约的效力发生争议时，当然有权向有关法院提起诉讼。此外，按照各国民事诉讼法的有关规定，提起民事诉讼是每个公民的权利，法院得依照其本国民事诉讼法的规定，受理有关当事人提起的诉讼。
根据各国的立法与实践，如果一方当事人将仲裁协议效力的争议提交法院，法院将依照应当适用的法律来确定该仲裁协议的效力。如果法院认定该仲裁协议有效，则令当事人将协议项下的争议提交仲裁解决；如果法院认定该仲裁协议无效，则由法院对此项争议作出判决。
如果仲裁机构就仲裁协议的有效性作出的决定与法院对此问题作出的裁定相抵触，法院的裁定应居优先。否则，依照该项有争议的仲裁协议所作出的仲裁裁决，在日后的承认与执行问题上便会遇到麻烦。例如，
《仲裁法》第
20条第1款规定，“当事人对仲裁协议的效力有异议的，可以请求仲裁委员会作出决定或者请求人民法院作出裁定。一方请求仲裁委员会作出决定，另一方请求人民法院作出裁定的，由人民法院裁定。”《
中国国际经济贸易仲裁委员会仲裁规则》第
4条亦规定：“仲裁委员会有权对仲裁协议的存在、效力以及仲裁案件的管辖权作出决定。当事人对仲裁协议的效力有异议的，如果一方请求仲裁委员会作出决定，另一方请求人民法院作出裁定，则由人民法院裁定。”从
《仲裁法》和《
中国国际经济贸易仲裁委员会仲裁规则》的这些规定来看，仲裁委员会和法院对仲裁协议的效力均有权作出决定或裁定；在当事人双方分别向仲裁委员会和法院提起确认仲裁协议效力的请求时，由人民法院裁定。
那么，仲裁委员会和法院作出的关于仲裁协议效力的决定、裁定是否都是终局的？在当事人分别向法院和仲裁委员会提起确认仲裁协议效力的请求、仲裁委员会已先行作出仲裁协议无效的决定从而不享有仲裁管辖权时，当事人是否享有直接向法院起诉的权利？对于这些问题，最高人民法院院长肖扬在2001年春季的一次访谈中指出：“对人民法院作出的确认仲裁协议效力的裁定，法律没有规定可以上诉，就此意义而言可以说是终局的。这是为了保障仲裁程序的快速顺利进行。但仲裁委员会作出的决定，不是终局的。当事人可以在申请撤销仲裁裁决、申请不予执行仲裁裁决等诉讼中请求法院确认仲裁协议的效力。如果法院确认仲裁协议无效，便可撤销仲裁裁决或者依据1958年承认及执行外国仲裁裁决纽约公约第5条第1款第1项的规定以仲裁协议无效不予执行，从司法程序上保证仲裁裁决的公正。在当事人分别向仲裁委员会和法院提出确认仲裁协议效力的请求，仲裁委员会已先于法院接受申请，并作出仲裁协议有效的决定时，人民法院不受理当事人要求确认仲裁协议效力的申请。如果仲裁委员会先于法院作出仲裁协议无效的决定，并且当事人又未重新达成仲裁协议，当事人可以向人民法院提起诉讼。”
