1927年夏，中共同武汉政府的关系彻底破裂，革命形势急转直下。共产党对此立即作出反应：在湖南、湖北、江西、广东四省举行农民暴动，以推翻武汉政府在这些省份的统治，这就是“秋收起义”。
八一南昌起义后，8月7日，在共产国际的帮助下，中共中央在汉口召开紧急会议。会上，陈独秀受到了批评，并被免去了总书记的职务，瞿秋白取而代之，成了党的领导人。毛泽东仍作为中央候补委员参加会议，代表22人。
会上，毛泽东首先发言，着重讲了四个问题：第一是国民党问题；第二是农民问题；第三是军事问题；第四是组织问题。
会议选举临时中央政治局。选出临时政治局正式委员11人、候补委员7人，毛泽东被选为候补委员。会后，瞿秋白要毛泽东到上海党中央机关工作。毛泽东则表示：我不愿去住高楼大厦，我要上山结交绿林朋友，开展农村斗争，请中央批准。这一要求，得到了中央的批准。
1927年8月30日，毛泽东在中共湖南省常委会上被任命为委员会书记。
毛泽东是制定秋收暴动计划的党的领导人之一，他到了湖南后，大大缩小了起义的规模，并对计划作了若干重要的修改。比如：他将攻占目标限于省会所在地的长沙；组建和运用军队，而不是单靠农民群众。到9月的第一个星期，毛泽东已掌握了四支部队：一支是由共产党领导并是原先准备参加八一南昌起义的武汉警卫团；一支是由国民党军中的散兵游勇组成的队伍；一支是由手持长矛大刀的土匪改编过来的部队；以及由江西安源、萍乡一带失业矿工的农民组成的队伍。
毛泽东作为前委书记和工农革命军第一师师长。原计划在9月11日攻占长沙的两个卫星城，而后在9月15日展开对长沙的攻击。
一位任前敌委员会顾问的苏联人，在湖南举行起义期间在场。事后他报告说，起义混乱不堪，几乎所有的事情都出乎意料。毛泽东在离开安源去铜陵，走到浏阳张家坊时，被一些当地民团抓住了。毛泽东当时身着农民服装，脸晒得黑黑的，因此民团没有认出来。那些民团奉命把毛泽东押到民团总部去处死，在半路上毛泽东用钱贿赂押送的人，团丁答应释放，但负责的队长不允许。于是毛泽东决定逃跑。在离民团总部大约二百米的地方，毛泽东找到一个机会趁机逃脱，民团追捕直到天黑，毛泽东才脱险。等到毛泽东找到他的部队时，已溃不成军，他只好集合残部，向山区进发。
毛泽东缩小起义的范围，起义主要依靠军队而不是农民群众等做法脱离了八七会议制定的计划和战略。一个既不执行命令，又在自作主张的行动中遭到失败的人，无疑是有错误的。所以，中共中央为此批评毛泽东，调动他的工作，撤销他中共中央委员和中共湖南省委常委的职务，工农革命军第一师师长的职务也由余洒渡取代。卢德铭被前委任命为工农革命军总指挥。
毛泽东早就预料到他的这种行为所导致的后果，但他还是朝自己预定的路走下去，他率领不足一千人的残部向湘赣边界进发。部队到达江西永新县的三湾村，毛泽东决定对部队进行整编，把部队由一个师缩编为一个团，称为工农革命军第一师第一团。
毛泽东对什么样的地方适合占山为王和进行游击战争了如指掌。毛泽东选择了井冈山——位于湖南、江西二省交界处，地处罗霄山脉中部。这里峰峦高耸、云雾缭绕、林木茂盛、毛竹满山。毛泽东用生动形象比喻道：这里像眉毛一样的地方，最适合作我们的落脚点，我们要到那里去当“山大王”。在三湾改编期间，毛泽东派人送信到宁冈，和占领井冈山的农军首领袁文才取得联系。
当毛泽东到达井冈山时，它已被王佐为首的土匪占据。附近以宁冈为巢的强人袁文才同王佐很有交情，毛泽东送了100支枪及其他一些礼物给袁文才，同他交上朋友，并被引荐同王佐会面。结果，王佐和袁文才都成了毛泽东的部下，他的队伍也被改编成工农革命军。这样，毛泽东控制了井冈山根据地。
1927年10月，毛泽东在井冈山上结识山大王之一的贺子珍，便一见钟情。贺子珍比毛泽东小10岁，永新县人。由于容貌出众，被誉为“永新一枝花”。毛泽东向贺子珍讲述了自己的经历和身世，毛泽东当时已34岁，结过婚，妻子和三个孩子都留在湖南老家。毛泽东向贺子珍说：“我和妻子已经不通信了。关山远隔、杳无音信，也不知道他们现在是死是活。”贺子珍被感动了，以后二人就同居在一起。
当时党中央由瞿秋白主持，并取得了统治地位。他坚持“城市中心论”，号召城市工人暴动；瞿推行“左”倾冒险主义的政治路线，在组织路线上实行宗派主义和惩办主义的政策。瞿秋白发现毛泽东当时发表一本“枪杆子里面出政权”的书后，十分恼火，撤销了毛泽东政治局候补委员职务。毛泽东予以坚决斗争。
1928年2月，共产国际第九次执委扩大会议通过了关于《中国问题的决议》，批评了第一次左倾冒险主义对革命性质、革命形势等问题的错误估计和错误策略。4月30日，中共中央政治局表示接受这一决议。
5月4日，朱德、陈毅领导南昌起义部队，来到井冈山与毛泽东会师，这天召开庆祝两军会师暨成立红四军大会。两大队组成一支工农武装——工农革命军第四军。6月4日，按中央指示改称工农红军，朱德任军长，毛泽东任军委书记、兼党代表，陈毅任政治部主任，王尔琢任参谋长。红四军下辖三个师九个团，共计5000人。实际上只有4个团，即28团、29团、31团和32团
1928年7月，中共湖南省委责令毛泽东打回湖南去，毛泽东据理力争，反对这项建议。在一次兵变中，28团长王尔琢牺牲，林彪接替王当28团团长。
北伐战争结束，在以后的三年中，战火屡起，蒋介石与各地军阀展开混战。
混战，使蒋介石无暇顾及已转向山区的共产党人，这就为他们组建自己的武装力量、创立根据地提供了时机。在国共关系破裂后的几年中，西南、华中、西北等地先后建立了若干强弱程度不同、大小规模不一的根据地。
毛泽东通过夺取和重新分配土地的方式来发动农民同地方贵族老爷们作斗争，他们将农民武装起来，告诉他们要用战斗来保卫自己所取得的果实。他们又利用农民武装来捍卫和扩大红色区域。
1928年初夏，中共六大在莫斯科召开。在会上，毛泽东被缺席选进中共中央委员会，但没能进入政治局。政治局由瞿秋白、周恩来、张国焘、李立三、蔡和森、项英和向忠发组成。向忠发被选为总书记。向忠发无产阶级出身当过装卸工，不善言辞，几乎无法在公开场合谈论问题，显然不具备作为领袖人物的素质。因此，不久新的政治局就受李立三的操纵。
毛泽东和李立三早在长沙求学时就见过面。那是在1915年，毛泽东在长沙在报纸上刊登一则征友启事，表示想同爱国热情的青年结为朋友，交换看法。结果，他得到了“三个半人的回音”，其中半个人就是李立三。他在听了毛泽东的谈话后，没作任何许诺就走了。
李立三因致力于组织劳工运动，受到莫斯科的赏识而进入领导层，毛泽东则主要致力于组织农民运动。在中共六大上，李立三阐明了自己对农民的态度。他说：“农民对社会主义有一种小资产阶级的幻想。那些失去土地之所以要拥护社会主义，是因为他们想重新占有土地。为此，他们要求平均分配土地，这显然不是社会主义。但是，我们许多从事农民运动的同志却不懂得这一点。我想，毛泽东就是这样的一位同志。”
1928年12月，国民党集中纠集了湖赣两省部队，大有踏平井冈山之势。面对强大的敌人，毛泽东、朱德决定撤离井冈山根据地，率部向赣南出击。
朱德、毛泽东率部离开井冈山不久，就同国民党军队遭遇，双方展开殊死的战斗。不久，朱德、毛泽东与彭德怀相遇。
针对“八月失败”以后，部队滋生起悲观主义情绪，10月，毛泽东写了《中国的红色政权为什么能够存在？》，接着又写了《井冈山的斗争》。毛泽东在1930年1月给林彪写了一封信，后收在毛泽东的著作中，称“星星之火，可以燎原”。
1928年12月11日，彭德怀、滕代远率领的红五军900多人上了井冈山，与红四军会合。此时，湘赣两省的军阀何键为总指挥，对井冈山发动了第三次“围剿”。
1929年3月，毛泽东在闽西长汀召开前委扩大会议，决定以红四军为基础，与红3军、红12军合为工农第一路军。不久改为红一军团，朱德任总指挥，毛泽东任前委书记和政治委员。
4月初，毛泽东拒绝执行党中央的指示，标志着他开始进入努力创建和扩大以瑞金为中心的新根据地时期。同时也表明毛泽东进入一个树敌太多、步履艰难的时期。
此时红四军前委内部意见不统一，争论激烈。早在1928年4月朱德、毛泽东会师，当时红四军前委书记和军委由毛泽东一人兼任，后由刘安恭担任临时军委书记。刘要求前委只讨论行动问题，不要管其他事，军队的工作由军委管。这就引起了党和军队关系的争论。后刘安恭被免除，但争论依然，主要是朱德与毛泽东的争论。
6月8日，毛泽东在白砂主持召开前委扩大会议。会上，毛泽东提出了请求更换前委书记，让他离开前委的要求。他说：“我不能担负这种不生不死的责任。”但是，毛泽东要求离开前委，决不是要放弃斗争，他是希望能找到一种新的方法来解决问题。
6月22日，在龙岩召开红四军的第七次代表大会。会上，对两年来毛泽东在实践斗争中所规定的关于建党建军的一系列原则和对策进行了否定。许多人对党对军队的绝对领导制度表示强烈不满。但毛泽东对这些原则问题是决不让步，也就是说决不丧失权力。当时形成三派：一种拥护朱德，一种拥护毛泽东，一种是中间派陈毅。43岁的朱德、36岁的毛泽东都想争取28岁的陈毅。在一次会议上陈毅说：你们朱毛吵架，一个晋国，一个楚国，两个大国天天吵，我这个郑国在中间简直没法办。我是进出之间为难，两大之间为小。我跟哪个走？站在哪一边？我就是怕红军分裂，希望你们两方团结起来。”
平时，毛泽东脾气大，未免有点犯众怒。在会上，毛泽东受到很多人的指责。大会报告由陈毅作，陈毅采取各打五十大板，对毛泽东、朱德都作了严厉的批评，对争论双方作了组织处理。宣布给毛泽东严重警告，给朱德书面警告。毛泽东为此十分恼怒，却又没有办法。于是坚辞新确定的前委书记之职，称病到闽西上杭蛟洋“养病”。这次斗争使毛泽东受到一次打击。
12月28日，红四军第九次代表大会在福建上杭古田召开，即“古田会议”。会议选举毛泽东为前委书记，通过了毛泽东亲自主持起草的《中国共产党红军第四军第九次代表大会决议案》。
古田会议后，1930年1月，红四军由古田向闽赣边界的武夷山进发。
1930年4月，中央要陈毅去上海汇报工作，陈毅提出要毛泽东回前委主持工作，毛泽东拒绝了陈毅的请求。说：“我不能回去，你们七次大会那个做法我不能同意，我不能随随便便就回去。”
10月初，毛泽东致信前委，写了一封言词十分激烈的信：“我平生精密考察事情，严正督促工作，这是陈毅的眼中钉。陈毅要我做八面美人，四方讨好，我办不到。我不能随便回来，这个路线问题不解决，我就不能回来。”
陈毅到上海，中央领导人是李立三，李问毛泽东如何？陈不隐讳自己的观点：在政治上，我现在更加拥护毛泽东当书记，别开生面，大有创造；但是在组织上，我仍然担心搞不好团结。他为人，几乎个个怕他。这次代表大会没有选他，出乎意料之外，但也不奇怪，很多人把他和朱德军长一比，当然是朱德更得人心。
会后，陈毅带上中央圣旨“九月来信”，肯定毛泽东关于工农武装割据思想，毛泽东仍应为前委书记，要求红四军内部要加强团结，共同对敌。之后，陈毅带着周恩来的意见去上杭请毛泽东回军。毛泽东此时非常高兴：“好，好，我这就走。”
6月中旬，红四军在汀州进行整编，成立了中国工农红军第一军团。
1930年6月11日召开的政治局会议上，李立三公开提出了他以为能使共产党夺取被国民党盘踞的中部省份的计划。他声称：举行革命暴动的时机已经成熟，工人举行起义，红军展开进攻，军阀部队掉转枪口，这样内外夹击，即可夺取主要城市。
李立三的计划在政治局会议上获得了通过。该计划提出：改编党的军队，朱德任总司令，毛泽东任政治委员。一切武器都集中在红军手中，这意味着武装的赤卫队和地方武装都将编入红军系列。由朱德和毛泽东直接指挥的部队改编为红一军团，任务是攻克南昌后向武汉和九江开进；贺龙的部队改编成红二军团，徐向前的部队改编成红四军团，都向武汉挺进。彭德怀指挥的红三军团，先攻下长沙，然后参加对武汉的总攻。与此同时，发动工人起义，组织农民暴动，相互策应，并在国民党及军阀部队中策动兵变，以牵制敌人的行动。
但整个行动计划不久失败，这就迫使党中央取消进攻武汉的计划，同时也宣告了李立三举行全国性起义的计划的失败。
共产党军队撤出对湖南省会长沙的围攻后，紧接着的就是长沙国民党当局对共产党亲属的大搜捕。被捕的人中就有毛泽东的妻子杨开慧和毛泽东的妹妹毛泽建。后来，她们都遭杀害。
