“十月革命一声炮响，为中国送来了马克思主义”。经过五四爱国运动的洗礼和启蒙，已开始觉醒的中国先进知识分子为了寻求救国救民真理，从大量涌现的新思潮中，逐渐发现和接受了具有高度的科学性和革命性的马克思主义。以李大钊为代表的先进知识分子热烈欢呼十月革命的胜利，以极大的热情向社会各界，特别是向广大青年宣传马克思列宁主义，并主张向俄国革命学习，“走俄国人的路”！

　　被誉为新文化运动发起者和五四运动总司令的陈独秀，在接受了马克思主义后，也主张“用革命的手段建立劳农阶级的国家”，开始着手建党工作。1920年6月，在上海法租界老渔阳里2号《新青年》的编辑部，陈独秀、俞秀松、李汉俊、施存统等几位思想先进的中国知识分子秘密举行会议，决定组建早期党组织。关于党的名称，陈独秀征求李大钊意见，最终定名为“共产党”。这次会议所起草的党纲草案中就包括有党的严密的组织等内容，这也是中国共产党关于组织纪律问题最早的记载。

　　1920年9月16日，远在法国留学的蔡和森给正在湖南文化书社筹建俄罗斯研究会的毛泽东写了一封信，探讨建立中国共产党的相关事宜。蔡和森在信中强调：“党的组织为极集权的组织，党的纪律为铁的纪律，必如此才能养成少数极觉悟极有组织的分子，适应战争时代及担负偌大的改造事业。”这与列宁强调无产阶级政党“铁一般的纪律”可以说是不谋而合。

　　上海的中共早期组织成立后，1920年10月，在李大钊的直接指导筹划下，北京的共产党早期组织在北京大学图书馆李大钊办公室正式成立，当时取名为“共产党小组”。从1920年秋至1921年春，董必武、陈潭秋、包惠僧等在武汉，毛泽东、何叔衡等在长沙，王尽美、邓恩铭等在济南，谭平山、谭植棠等在广州，也相继成立了共产党早期组织。

　　然而，当时各地共产党早期组织中，除了马克思主义者，也有一些无政府主义者。在建党过程中，围绕党内要不要严密的组织与严格的纪律，马克思主义者与无政府主义者发生了严重分歧与激烈争论。北京共产党小组成立一个多月后，黄凌霜等无政府主义者极力主张自由的联合，反对党的纪律和职务分工、反对党的集中领导，反对建立无产阶级专政，而李大钊等人则坚持要按照马克思主义理论和列宁的建党思想，建立一个有严密组织与严格纪律的工人阶级政党，实行无产阶级专政，推动社会革命。经过争论，双方分道扬镳，无政府主义者退出了党组织。1920年底，北京党组织召开会议，决定成立“共产党北京支部”，由李大钊任书记，张国焘负责组织工作，罗章龙负责宣传工作。

　　广州共产党早期组织在建立之初也面临着同样的问题。俄共（布）党员斯托扬诺维奇和别斯林于1920年9月在广州筹建党组织，最初参加的成员主要是区声白、梁冰弦等无政府主义者。12月，陈独秀由上海到达广州，在要不要坚持无产阶级专政、要不要严格组织与纪律的问题上与无政府主义者发生激烈争论。陈独秀指出，组织和纪律、集中和统一、少数服从多数的原则，是无产阶级革命的需要。若是事无大小都要人人同意，那不肯同意的少数人，不肯牺牲自己的意见服从多数，除了退出别无他法，照这样的纷乱下去，那还有什么组织和社会呢？经过争论，强调要“多找真同志”的陈独秀认定党的组织“必须摆脱无政府主义者”。他于1921年春主持“开始成立真正的共产党”，重建广州共产党早期组织，取名为“广州共产党”。成员主要是谭平山、谭植棠、袁振英、李季等信仰马克思主义的先进分子。

　　在各地共产党早期组织建党实践中，通过与各种非马克思主义、反马克思主义特别是无政府主义思潮的斗争，以及积极开展工人运动，加深了对马克思主义理论的认识，促进了马克思主义学说在中国的广泛传播，为中国共产党按照马克思列宁主义建党学说，建立具有严格组织性纪律性的、民主集中制的无产阶级政党，奠定了坚实的基础。