1978年宪法部分地纠正了1975年宪法左的色彩，在“国家结构”一章中设专节规定“人民检察院与人民法院”，法条数量也由原来的一条增加为三条，并明确规定“最高人民检察院对于国务院所属各部门、地方各级国家机关、国家机关工作人员和公民是否遵守宪法和法律，行使检察权。地方各级人民检察院和专门人民检察院，依照法律规定的范围行使检察权”，而不是由公安机关代为施行；但1978年宪法仍然规定人民法院审判案件，依照法律的规定实行群众代表陪审的制度，对于重大的反革命案件和刑事案件，要发动群众讨论和提出处理意见。这部宪法虽然规定了人民法院的审判权和人民检察院的监督权，但对于重大的反革命案件和刑事案件的审理，强调要发动群众讨论和提出处理意见，表明这一时期奉行的依然是“群众路线”式样的斗争哲学，而不是司法机关依法独立行使职权的现代司法理念。
1982年制定颁行的现行《宪法》尽管在某种意义上被认为是1954宪法的回归，在确定国家政治体制中所起的作用是重大的。该宪法仍然设专节规定了“人民法院和人民检察院”，而且篇幅由1978年《宪法》的三条增加到十三条，其中，第123条明确规定“中华人民共和国人民法院是国家的审判机关”；第129条则规定“中华人民共和国人民检察院是国家的法律监督机关”；第135条中规定，人民法院、人民检察院和公安机关办理刑事案件应当分工负责，互相配合，互相制约，以保证准确有效地执行法律。1982年宪法以国家根本大法的方式确立了审判权和法律监督权的行使机关，但仍然没有“司法”或者“司法权”的明确提法。
正是基于对现行宪法文本中关于我国司法体制规定的不同理解，人们对于当下已经流行的司法概念产生了不同的认识和诠释。普通民众的一般理解是，司法机关除了行使审判权的人民法院、行使法律监督权的人民检察院之外，还包括公安机关、司法局，也就是我们通常所说的公、检、法、司四大机关，而四大机关的排名顺序似乎更值得思考，它不同于西方“法院是法律帝国的王国，法官是法律帝国的诸侯”的法谚，而是将更具暴力特征和威慑效果的公安局排在第一位。而立法实践在一定程度上也总是体现出这种“大司法机关”的思维定势，例如《刑法》第94条就明确规定，“本法所称司法工作人员，是指有侦查、检察、审判、监管职能的工作人员”，按照该条规定，司法机关除了指人民法院与人们检察院之外，还包括承担刑事案件侦察任务和治安管理任务的公安机关，以及承担狱政管理职能的司法行政机关，也就是司法局。
