由于指导形式本身存在很多相异的地方，中国行政指导的效力亦和日本行政指导呈现出一定的差异性。首先，中国的行政指导以纲要行政和指导性计划等高度抽象的形式为主。这种指导形式在空间和时间上跨度都很大，行政机关实际上不可能有相应的配套的强制措施，来促使相对人服从行政指导，保证行政指导的实效。因此，大多数的抽象行政指导中，行政机关依赖的主要是利益诱导的手段和指导本身的科学性，“使企业感到按照国家计划的要求去做，对自己是有利的”。[20]比如，在农业指导，很多行政机关在推广农业技术时大多数采取典型示范的方法，促使相对人接收指导。典型示范，应该说是中国助成性行政指导的主要的推行方式，在实践中被证明是非常有效的。在中国需要注意的是另外一种情形。一些行政指导主要是通过行政机关中的上下级命令关系推广行政指导。这种方式很多时候发生不合理的结果。可能在上级机关本意是要推行指导，而下级机关出于取悦上级机关，不惜卖力地使用强制力量迫使向对方服从指导，即使是一些助成性的指导也会演化成强制。比如，2000年初，海南詹州市提出农业结构调整的重点工作是，全市种植香蕉3万亩和在近海海岸养殖沉箱鲍鱼。4月5日，詹州市农业局用红头文件下发2000年詹州市香蕉种植任务，并将3万亩香蕉种植任务分解到全市18个乡镇。4月20日部分没有完成任务的乡镇镇长被免职或黄牌警告。[21]这种本来是一种指导性的措施，在中国这种特有的上下级官僚关系的解读下成了一种地地道道的行政命令。行政指导虽然获得了遵从，保证了实效性，但是它完全压缩了相对人的选择空间。所以，当前行政指导和行政命令的界限不明是中国行政指导存在的最大的问题。日本的行政指导就不存在这样的烦恼，一般情况下出台的政策都是协商好的，其执行自是顺水推舟。
将指导转化为强制，法庭很容易认定强制行为为行政行为，并且追究相应法律问题，和日本相比较，这并不是严重不可救药的问题。从目前来看，中国的行政指导并未演变为一种具有很强实施强制力的行为，如果没有演变成赤裸裸的行政强制，目前的行政指导对相对人仍然只呈现善的一面。和中国行政法治的进程相关，也可能因为没有现实的迫切感，中国至今还没有从法律上对行政指导进行规范。中国的宪法和法律法规中有关于行政指导的一些规定，但是从宪法到法律乃至法规都主要是从法律关系上确立政府和相对人之间指导和被指导的关系，却缺乏对此种关系的具体调整。比如1992年国务院制定了《全民所有制工业企业转换经营机制条例》，该条例赋予了企业14项经营自主权，并规定政府的职责主要是加强宏观调控和行业管理。该法条例从整体上确认了政府和企业之间指导和被指导之间的关系，具体规定了政府采取的指导性措施。如，规定政府“制定经济和社会发展战略、方针和产业政策，控制总量平衡，规划和调整产业布局”，“发布市场信息，加强市场管理，制止违法经营和不正当竞争”，“协调企业与其他单位的关系，保障企业的正常生产经营秩序”。但是该条例没有规定政府执行行政指导措施必须遵守的程序，没有规定保证指导实效的基本措施等等。这使该法规定的指导行为非常空洞，这也是我国当前有关行政指导立法的普遍的缺陷。法律往往只停留在确立行政机关和相对人的指导关系便停止进一步的规范。这里面的历史原因可能在于：在计划经济到市场经济过渡的过程中，我们急于摆正政府和市场的关系。我们很大程度上是在一种改革的狂热情绪中，找到指导关系来代替传统的指令关系。我们的角度与其说是微观的不如说是宏观的，立场与其说是行政法的不如说是宪法的。在改革过程中，如何实现和规范这样的指导关系其实并没有被认真考虑过。因此，在很多时候我们知道政府和企业或其他相对人之间的指导关系，但具体到这种关系的内容，如这种关系如何执行、执行的结果等等，我们就不了解了。甚至行政指导的权限有多大，我们也很难确定。从实证法的角度来看，我们或可认为有关行政指导的规范其实是不具有法律意义的。
在此，可以看出中日两国行政指导的各自面临的是不同的问题。中国从法律上确认了行政机关和相对人的指导和被指导关系。这种所谓指导关系，从严格的实证法观点来看，是不具有法律意义的。但法律做这样的规定，会给行政机关一个误解，使他们把行政指导也看作自己的一种权力。这种见解，导致一方面行政机关会大张旗鼓地进行指导，另一方面在行政指导碰见阻碍的情况下，他们会直接采取直接的强制措施来实现意志。所以对中国的行政指导现状来说，最大的问题仍然是行政指导演化为行政强制，导致行政违法的情形。而日本的行政指导面临则是另一番情形，指导机关并未有法律的依据进行指导，在越权进行指导时候，必然采取隐秘的措施保障指导的落实，也就是采取各种事实的强制资源给相对人施加压力，获取相对人的服从。而所谓一系列隐蔽的措施则是建立在密切的官民关系之上，尤其要注意的是这种密切关系并非某个行政机关的特殊情形，而已成为事实的制度。恰是这种事实的法外制度，提供日本行政指导产生和实施的背景条件，它们也成了行政指导法治化的障碍。日本行政指导面临就不是指导本身的问题，而是指导背后的制度支持。这些制度支持使得行政机关掌握充分的资源迫使相对人服从。那么，日本行政程序法的失败也就是情理之中的。比如，就行政指导形式的规定，行政指导的书面形式仅限于对方有要求的情况。而向政府机构要求书面形式的指导，可能会显示对抗的心理。处在和行政机关共生关系之中，长期打交道的相对方恰恰不愿意显示不服从，破坏这种“和谐”的官民关系。由此把问题指向了行政指导之所以会产生的体制原因。“程序法借由程序规定来对行政指导进行控制，回避非正式的行政指导产生的背景和理由，可以说是治标未治本。该法不能解决行政机构与产业界之间的共生性的结构关系。更不能把许多政府机构与业界的共同作品之行政指导公开化，公正化。要解决这样的问题，需要对政府机构与业界进行分析和改革。当然，官僚制的组织结构的改革也应该成为课题。”[22]
