第二，由仲裁机构认定，即由仲裁机构对仲裁协议的效力和自身管辖权作出最终判断。这是少数国家采用的认定方法，中国在《仲裁法》施行前的做法比较典型。在《仲裁法》施行前，由于《民事诉讼法》没有规定认定仲裁协议效力的诉讼，因此，根据中国国际贸易促进委员会（CIETAC）1994年以前的《仲裁规则》规定，由仲裁机构决定仲裁协议的效力，但裁决作出后在执行程序中，该决定的效力由法院决定。但是，在《仲裁法》施行后，中国国际贸易促进委员会（CIETAC）的《仲裁规则》发生了变化，该规则第20条规定，当事人对仲裁协议有异议的，可以请求仲裁委员会作出决定或请求法院裁定；一方请求仲裁委员会决定，另一方请求法院裁定，由法院作出裁定。这一规定实际上是赋予了法院和仲裁机构共同认定仲裁协议的效力的权利。而且，这种格局在1998年10月21日最高人民法院《关于确认仲裁协议效力几个问题的批复》及2006年9月8日起施行的最高人民法院《关于适用＜中华人民共和国仲裁法＞若干问题的解释》中也予以了保留。
第三，由法院对仲裁协议的效力和仲裁庭是否具有管辖权进行最终决定。我国《仲裁法》第20条的规定基本应当属于这种情况。该规定虽然同时赋予了仲裁委员会和法院对仲裁协议效力审查的权利，但同时规定了法院优于仲裁委员会的最终决定权。这种规定虽然体现了司法的决定权和最终审查权，有利于防止仲裁委员会的决定有失公正，以保护当事人的合法权益，但法院这种对仲裁过程实施的监督，显然是不利于仲裁程序顺利进行的。
上述三种不同的制度设置可以说是各有利弊。赋予仲裁庭对仲裁协议效力的完全决定权，能够充分体现当事人意思自治的原则，并确保仲裁能够高效、有序地进行；赋予司法的决定权和最终审查权，有利于防止仲裁决定有失公正，保护当事人的合法权益；而赋予仲裁机构对仲裁协议的决定权，有利于仲裁机构对仲裁活动的管理，防止仲裁员的擅权。但是，直接赋予司法对仲裁协议的决定权和最终审查权，有司法过度干预仲裁之嫌，不利于仲裁功能的有效发挥；规定仲裁机构对仲裁协议的决定权，不仅容易使仲裁员对仲裁机构的过分依赖，影响仲裁庭和仲裁员的自主性和独立性，让当事人产生对仲裁裁决公正性的不必要怀疑，而且，一旦仲裁机构错误地作出管辖权决定，还将会置仲裁庭于十分尴尬的境地，甚至造成对仲裁机构声誉的损害；而赋予仲裁庭对仲裁协议不加限制的、完全的决定权，从目前我国现有的仲裁员管理状况看，确实会存在很大的风险。因此，笔者认为，2006年9月8日起施行的最高人民法院《关于适用＜中华人民共和国仲裁法＞若干问题的解释》对仲裁协议效力认定的有关规定值得借鉴。根据该解释的第13条规定：“依照仲裁法第二十条第二款的规定，当事人在仲裁庭首次开庭前没有对仲裁协议的效力提出异议，而后向人民法院申请确认仲裁协议无效的，人民法院不予受理”，“仲裁机构对仲裁协议的效力作出决定后，当事人向人民法院申请确认仲裁协议效力或者申请撤销仲裁机构的决定的，人民法院不予受理”。该项规定实际上已经就人民法院对仲裁协议效力先行裁定的权力作出了明确的限制，确保了仲裁机构在仲裁过程中对仲裁协议效力的决定权。但仍嫌不足的是，该项规定仍然将对仲裁协议效力的决定权赋予了仲裁机构，而且，也没有确认仲裁庭对仲裁协议的有效性具有优先决定权利。因此，笔者建议修改《仲裁法》第20条之规定，取消人民法院对仲裁协议效力先行裁定的权力，赋予仲裁庭对仲裁协议效力的决定权。当事人对仲裁庭的决定有异议的，可以在仲裁裁决后，依据《仲裁法》第58条之规定以仲裁违反程序为理由申请撤销。
