刘少奇思想中的制度主义有四个根源。其一，根源于工业化观念的制度主义。由于长期领导工人运动，刘少奇对于工业化及其所要求的制度化、秩序化的过程和意义，比当时的党和国家其他领导人有着更为深入的理解。工业化之所以内在的需要制度化或规则化，是因为，一方面，在生产过程中，现代工业的流水线生产方式，要求更高的集体观念、合作观念、纪律观念和制度观念。另一方面，在管理过程中，工业化与“科层制”统治模式密不可分。“科层制”的基本原则就是要依照职能和职位进行权力的分配和分层，并以规则治理为组织和管理方式。制度化、规则化也是“科层制”治理模式的最主要特征之一。在科层制组织中，组织运行，成员间的活动与关系都受规则的调整和限制。因此，对工业化的诉求，就不可避免规则治理理念的引入。

其二，根源于较强的民主化观念的制度主义。民主的制度化一直是党的三代领导人共同致力于完成的事业。1942年，刘少奇在写给陈毅的书信中曾谈到“需制定出一些关于民主的法律(如各级政府组织法，选举法，代表会议的规则，处理各种案件的手续等)，规定制裁那些违反民主、侵犯民权(人民民主权利)的官员的办法”(《刘少奇选集》上卷，第226～227页。以下引自该书只标注卷和页码)。新中国成立后，刘少奇强调了把民主上升为国家宪法所确定的制度的意义。他指出:“一方面，我们必须更加发扬人民的民主，扩大我们国家民主制度的规模；另一方面，我们必须建立高度统一的国家领导制度。为了这样的目的，我们也有完全的必要制定一个比共同纲领更为完备的像现在向各位代表提出的这样的宪法。”(下卷，第144～145页。)

其三，根源于实事求是作风的制度主义。刘少奇清醒地意识到，在武装革命和社会主义建设的实践中，斗争的任务与方式是截然不同的。国家应当从实际出发，在不同的历史时期采取不同的斗争方式。他认为，革命战争时期和解放初期，为了肃清残余的敌人和镇压反革命分子，破坏反动的秩序，建立革命的秩序，只能依据党和人民政府的政策，规定一些临时的纲领性法律文件。斗争的主要任务是从反动统治下解放人民，从旧的生产关系的束缚下解放生产力，所以斗争的主要方式是人民群众的直接行动。然而，“革命的暴风雨时期”已经过去，中国进入了社会主义建设的历史时期，斗争的任务已经转变为保护新生的生产关系和社会生产力的顺利发展，因此，斗争的方式也就必须随之改变，完备的法制就是完全必要的了。(参见下卷，第253页)这表明在社会主义建设的新时期，刘少奇试图在法律制度化的框架内解决各类社会矛盾和冲突，而不是采用直接的群众运动和暴力斗争的形式。他力求通过法律的社会控制进而最大限度地维护社会秩序的稳定，以此为社会主义工业化、民主化的建设奠定基石。

另外，刘少奇长期领导白区和敌占区的革命运动，对于他的制度主义形成，也有一定的积极作用。国民革命时期，为了保存党的力量，保护党的利益，坚持党在白区的工作，刘少奇在领导工人运动时，多次主张在法律的范围内与敌人进行合法的斗争。他指出:“现在中国的工会尚不能得到法律上的保障和社会的承认，中国工人阶级为要发展中国的职工运动，必须积极地公开地开展争工会条例的运动”(上卷，第3页)。另外，在《关于白区职工运动的提纲》中，刘少奇指出我们的主要任务，就是要利用工厂法、工会法上那些对于改善工人阶级现状有利的条文，来组织工人群众的斗争，要求实现那些条文上所规定的利益，必须利用一切合法的机会去组织工人。抗战时期，党领导人民发动了减租减息的运动，刘少奇主张“斗理、斗力、斗法……所谓斗法，就是依据法律进行合法的斗争……用自己的法令来保障农民的利益”(上卷，第237页)。同时他指出在游击区与敌占区的工作中，非法斗争与合法斗争需要巧妙配合。对于刘少奇在白区工作中的思想策略，毛泽东认为“同样是一个典范”，称赞道:“在群众工作中‘尽可能利用公开合法手段’，以使党的秘密组织能够在这种群众工作中长期的隐蔽力量，深入群众。”([美]洛厄尔·迪特默:《刘少奇》，华夏出版社1989版，第10页)

从这几个方面，或许可以说明刘少奇较为重视法制和秩序的原因。有的国外学者甚至将刘少奇视为一个“按部就班的制度主义者”，认为“他似乎是专门用来写作各种规章和法规的，通过这种方法，他有条不紊地把各种制度灌输给别人。”(洛厄尔·迪特默:《刘少奇》，第205页)

工业化、民主化和法理型统治，都是现代化进程中的必然产物。它们都分享一个相同的根源——社会的理性化。韦伯也趋于认为，现代化的关键是理性的高扬，现代化本身就是一个立基于工业化基础上的社会理性化过程。实现民主化与工业化的过程也是一个逐步诉求法理型统治的过程。当刘少奇把“民主化与工业化”作为奋斗目标的时候，他也就必然会以法理型统治模式的建构为目标。

法理型统治内在地要求法律具有至上的权威，而法理型统治的展开，也必须要求社会成员平等地遵守法律。为此，刘少奇一贯强调:“宪法是全体人民和一切国家机关都必须遵守的”(下卷，第168页)，并指出“国家行政机关绝不能脱离人民代表大会或者违背人民代表大会的意志而进行活动”(下卷，第157页)。1962年5月，他在和中央政法小组的谈话中也指出:“法制不一定是指专政方面的，人民内部也要有法制，国家工作人员和群众也要受公共章程的约束”(下卷，第452页)。这也说明在法制建设的操作方式和形式选择上，刘少奇偏好的是秩序性的“法治”而非运动式的“群治”，而后者正是毛泽东以“大民主”形式为中心的治国理念。刘少奇还曾多次强调，全国人民都要无例外地遵守宪法和法律，特别是“所有党员，包括党员负责干部，都必须无例外地遵守党的纪律，都必须模范地遵守国家法律”。(下卷，第414页)