“将支部建在连上”，这是毛泽东同志创造性的杰作，是新型人民军队建设的开端。早在国共合作的第一次大革命时期，中国共产党就在所领导的军队中建立了党的组织。但是，无论是南昌起义军还是秋收起义军，党的组织都是设在团一级，即团为支部单位，连队一级的基层都没有党的组织。这就削弱了基层党支部的战斗堡垒作用。

　　1927年7月15日，汪精卫在武汉主持“分共”会议，决定清除国民政府、国民革命军中的共产党员，与共产党决裂，公开叛变革命，轰轰烈烈的大革命宣告失败。在这紧要关头，根据共产国际指示改组的临时中共中央政治局常委会作出改变中国革命命运的三项重大决策：一、武装反抗国民党；二、独立领导农民进行土地革命；三、召开中央紧急会议。1927年8月1日，中国共产党掌握和影响的国民革命军部队在南昌发动起义，打响了武装反抗国民党反动派的第一枪。8月7日，中共中央在汉口召开紧急会议，总结了大革命失败的教训，彻底批判了陈独秀的右倾错误，制定了实行土地革命和武装起义的正确方针。9月9日，毛泽东领导的湘赣边界秋收起义爆发。

　　秋收起义从破坏粤汉铁路北段开始发动。9月11日，起义军分别从江西的修水、安源、铜鼓等地出发，进入湖南境内，会合平江、浏阳地区的起义农民，准备会攻长沙。在会攻长沙的途中，起义军虽曾占领醴陵、浏阳县城和一些集镇，但却遭到远比自己强大的反革命军队的抵抗，加上兵力分散、对敌情估计不足、缺乏作战经验、有些指挥员指挥失当和邱国轩团叛变等原因，遭受了很大损失。9月14日，毛泽东在浏阳东乡上坪主持召开紧急会议，决定改变攻打长沙的计划，命令部队迅速到浏阳文家市集中。9月15日晚，湖南省委作出决定，停止执行长沙武装起义计划。9月19日，毛泽东在文家市主持召开前委会议，讨论下一步行动。会议经过激烈争论，通过了毛泽东的主张，决定起义部队撤离湘东地区，向南转移。

　　秋收起义部队从文家市转兵后，于9月29日到达江西省永新县三湾村。从文家市到三湾只有短短的10天。可是，这10天当中，工农革命军的人数竟然锐减，从原来的近2000人剩下不到1000人了。

　　这是什么原因？毛泽东通过一路的调查，发现除在芦溪遭袭牺牲500余人外，其余的全都当了逃兵。而造成这么多人在关键时刻私自离队，一是不少人认为失败已成定局，意志消退，二是部队缺乏应有的民主制度，士兵们受不了官长的随意打骂而逃回家去。

　　毛泽东对此感到震惊。他深深地意识到，如果不对这支军队进行彻底的改造，根本无法担负起中国革命赋予的重任。实施改造的关键在于加强党的建设和建立新的民主制度。

　　起义部队在三湾村住了5天。从9月29日起，毛泽东对工农革命军进行了著名的“三湾改编”。三湾改编的主要内容是：第一，把已经不足1000人的部队，缩编为一个团，称工农革命军第一军第一师第一团。士兵们愿留则留，愿走的发给路费，将来愿回来的还欢迎。第二，在部队内部实行民主制度，官兵平等，待遇一样，官长不准打骂士兵，士兵有开会说话的自由。连以上建立士兵委员会，有很大的权力。第三，全军由党的前敌委员会统一领导。党支部建在连队上，班有党小组，营、团建立党委制度；实行党的书记兼任同级党代表的新的党代表制度。部队一切重大问题，都必须经过党组织集体讨论决定。同时，新的党代表制度和党委制度结合起来，产生了党委、支部领导下的首长分工责任制，使军政首长联为一体，既发挥了党代表的作用，也消除了以往军事长官对党代表的抵触情绪。这就使得中国共产党在军队中成为各级领导的核心力量，确保了党对军队的绝对领导。

　　三湾改编，初步解决了将以农民及旧军队为主要成分的革命军队，如何建设成为一支无产阶级的新型人民军队的问题，是中国共产党建设自己的军队最早的也是一次较成功的探索与实践。

　　三湾改编后，起义部队面貌焕然一新。毛泽东在率领起义军南下途中，经过调查研究，选定位于湘赣边界的罗霄山脉中段即井冈山地区作为部队的立足点。10月初，起义军到达江西宁冈县古城。前敌委员会在这里召开扩大会议，初步总结湘赣边界秋收起义的经验教训，研究建立根据地和对井冈山地区的袁文才、王佐农民武装采取团结改造方针的问题。会后，毛泽东于10月6日在宁冈大仓村和袁文才接触并建立联系后，决定工农革命军主力在井冈山周围盘旋打游击。部队于10月27日抵达茨坪，11月初到达茅坪，最终在井冈山站稳了脚跟，建立了农村革命根据地。1928年4月，朱德、陈毅率南昌起义保留下来的一小部分部队和湘南起义农军1万余人与毛泽东领导的部队在井冈山宁冈砻市会师。会师后，两支部队合编为工农革命军第四军（后改称红军第四军）。

　　井冈山斗争时期，国民党军队除对井冈山根据地发动频繁的军事“会剿”外，还在经济上实行了严密的封锁，妄图双管齐下，将工农红军扼杀在摇篮中。由于经济上的封锁，双方的贸易完全断绝，根据地的食盐、布匹、药材等日常必需品十分缺乏，木材、茶油等农产品不能输出，农民失去货币交换，生活发生严重困难。在这种情况下，尽管每人每天有5分大洋却还是难以为继。

　　为了打破国民党军的企图，渡过经济封锁所造成的严重困难和危机，解决部队给养，安定群众生活，巩固红色政权，毛泽东和边界特委领导根据地军民开展了一系列反经济封锁的艰苦斗争。在这场斗争中，毛泽东、朱德、陈毅等率先垂范，带头树立廉政风气，成为井冈山革命根据地军民的楷模。

　　为了节约用油，当时部队规定连以上办公只能点一盏灯、三根灯芯，带班查哨点一根灯芯。毛泽东每天都要工作到很晚，批阅文件、撰写文章，按规定他可以点三根灯芯，但他一直只点一根。《中国的红色政权为什么能够存在》和《井冈山的斗争》等光辉著作就是在八角楼中的一根灯芯下写就的。军长朱德带头实行官兵一致，吃的是红米饭南瓜汤，穿的是单衣草鞋。由于他穿得破旧，胡子拉碴，加上为人和气，不认识他的人很难想象他就是大名鼎鼎、威震湘赣的红四军军长，甚至以为他是个“伙夫头”。

　　1928年冬，国民党调集湘赣两省军队，计18个团共3万人，向井冈山革命根据地发动第三次“会剿”。为了保卫红色政权，边界军民遵照特委关于“修筑完备的工事，储备充足的粮食，建设较好的医院”的号召，开展了一场从宁冈挑粮上山的活动。从宁冈茅坪、柏路，到井冈山的大小五井，上下近百里，且山路陡峭，莫说挑担，即是空手爬坡，也着实很累。那时，朱德已是40多岁的人了，毛泽东也已人到中年，两人军务繁重，完全可以不参加，但朱德、毛泽东坚持参加，走在队伍的前面。有一次，战士们见朱德挑得多了，实在太累，大家一合计，就把他的扁担“偷”了。心想朱军长没有了扁担，就不会再挑粮了。谁知，朱德识破了这一“诡计”，又叫军需处处长范树德找人重削了一条，为防再次被人“偷”走，还亲自写上“朱德扁担，不准乱拿”八个字。从此，朱德的扁担再也“偷”不走了。有朱德这样的榜样，战士们挑粮的劲头更足了，他们还编了这样一首歌：“朱德挑谷上坳，粮食绝对可靠，大家齐心合力，粉碎敌人‘围剿’。”每当挑粮爬山爬累了的时候，大家就用这首歌互相鼓励。

　　井冈山时期的斗争主要是军事斗争，但以毛泽东为书记的前敌委员会仍然十分重视军队的建设，注重政治教育，不断加强对军队的无产阶级思想领导。1927年10月，工农革命军来到井冈山建立革命根据地之初，虽然经过了“三湾改编”，大多数战士对于执行军队纪律有了基本认识，但执行起来还不是很理想。当年的亲历者、老红军陈士榘曾回忆说：“由于新整编过不久，没有进行政治教育，觉悟程度不高，侵犯群众利益的事情还是时有发生。”

　　在一次行军途中，饥渴难耐的战士们将路边成熟的红薯连苗拔出，用袖子胡乱揩去泥巴便塞到了嘴里。目睹这一情形的毛泽东深感这样下去可不行，部队必须实行严格的纪律约束。1927年10月24日早晨，他首次向部队宣布了三项纪律：第一，行动听指挥；第二，打土豪筹款子要归公；第三，不拿农民一个红薯。

　　自从宣布这三条纪律后，部队中拿群众红薯的现象没有了，然而又出现了别的违反纪律的现象。1928年1月5日，工农革命军攻克遂川县城后，为了广泛发动群众，开展土地革命，工农革命军在遂川县的许多村镇进行了广泛的分兵。由于部队分散行动，许多与部队紧密相关的一些问题也逐渐暴露出来了，这些问题在群众中造成了不好的影响。毛泽东从与群众谈话中了解到部队许多问题，如有些官兵把商人、小贩的货物没收了，甚至连药铺里卖药的戥子也拿走了；对群众宣传时，因地方口音不通，反复解释时情绪急躁，态度不好，等等。还有老百姓向毛泽东提意见：“工农革命军好是好，可他们借了我们的门板去睡觉，还回来的不是原来的那一块。还有啊，战士们睡觉用过的稻草遍地都是，成了牛栏了。”这些事，在不少人眼中看起来很小，可毛泽东在调查后觉得却是一件大事，若不用相关的条文予以矫正，势必严重影响军民关系。不解决这些问题，群众难以区别人民军队和旧军队的不同，工农革命军也难以做好群众工作。

　　1928年1月24日，在遂川县城李家坪，毛泽东把部队集合起来，提出要保护中小商人的政策，并宣布“三大纪律、六项注意”。三大纪律是：一、行动听指挥；二、不拿工人农民一点东西；三、打土豪要归公。六项注意是：一、上门板；二、捆铺草；三、说话要和气；四、买卖要公平；五、借东西要还；六、损坏东西要赔。

　　“三大纪律、六项注意”从此成为人民军队的基本守则。从“三大纪律、六项注意”的内容不难看出，除了“行动听指挥”和“打土豪筹款子要归公”属于军事纪律外，其余的内容几乎都是强调军队的群众纪律，体现了共产党领导下的新式军队与其他一切军队的区别和特征。