在国共统一战线完全破裂后，失去方向感的中共错误的在城市发起了武装斗争。1927年秋天，这些斗争都以失败而告终，没有人再相信陈独秀能带领中共走出困局。不少人都感觉到，中共是如此脆弱，在城市发动暴力革命成功的希望非常渺茫。
代替陈独秀的是瞿秋白，他仍想要从城市开始发动群众暴动的浪潮，来增强群众的实力。毛泽东对城市路线的失败并不感到特别惊讶，因为他坚信革命的真正前途在农村。与其他中共领导人不同的是，那时候他已不再迷信苏联模式。
事实上，毛泽东从一开始就并非一个纯粹的布尔什维克。1918年在北京时的孤独和被人疏远，使毛泽东倾向于接受无政府主义。但他已经有强烈的愿望要破除旧社会，建造新社会。毛泽东当时直刺中国社会现状：“国家坏到了极处，人类苦到了极处，社会黑暗到了极处。”他希望尽可能争取广泛的支持，号召各阶层的民众联合起来，对压迫他们的势力“齐声一呼”，但他一直单打独斗，不知靠什么才能联合汇聚民众力量形成革命大潮。
1919年底，由于受到张敬尧政权的镇压，苦闷的毛泽东只得离开长沙重返北京。在北京四个月，毛泽东阅读了《共产党宣言》，苏联的成功令他深有触动，开始信仰俄式的社会主义，并满腔热情加紧建立政党，他不再是孤单奋斗了。但是，他还没有意识到要夺取政权。
而当毛泽东写完《中国社会各阶级的分析》和《湖南农民运动考察报告》后，他在中共内部就渐渐成为了一个激进的、崇尚枪杆子、不合群的的人。从1926年开始，毛泽东的想法已经与中共其他高层分道扬镳。但他自己也不确定，农民到底能否挽救共产党，挽救中国革命。
井冈山初试红色政权
不过，毛泽东没有时间去想革命的方向，他刚经历了暴动的失败，面对的首要问题是如何生存。看着不足一千人的幸存者，毛泽东放弃攻打长沙，决定保存实力，进军井冈山。
但中央则很难理解，乃至非常愤怒。认为他“停止长沙暴动”，是“放任工农革命军退走”，是“临阵脱逃”。共产国际的代表说得更严重，是“最可耻的背叛”。很快，毛泽东被赶出了中央委员会，失去了领导地位，甚至湖南的共产党分部也把他驱逐出了领导机构。这是毛泽东政治生涯的第一个低潮。不过，这一次，毛泽东终于得以施行那些为陈独秀和共产国际所不耻的理论。
从攻打大城市到退败山沟，毛泽东的处境自然很不好，部队士气低落，消极、背叛、逃跑“变成了公开的事”。没有人会料想到，这位一介书生可以扭转困局。
通过开展土地革命，毛泽东争取到了底层民众的支持，同时在军队中还进行了“三湾改编”，撤换不称职的军官，缩编、精简部队，推行军队内部民主改革，建立前敌委员会统一领导体制。这些改革遭到部分军官的激烈反对，却受到下层士兵的热烈拥护。毛泽东在井冈山的土地上成功创建了红色割据政权。
一年后，随着战事的胜利与地方割据区域的扩大，毛泽东获得了上下一致的拥戴。他不仅解决了生存难题，同时也坚信扎根农村是正确的道路，星星之火可以燎原。这对毛泽东和中共而言，都是至关重要的命运转折点。
但远在上海的中共中央和坚信共产国际的共产党人，还是没有看出井冈山的意义。毛泽东与教条派由来已久的矛盾再次爆发，他再次遭受来自内部的打击。
重获军队领导权
1928年4月毛泽东领导的红军第一军第一师与朱德部属会合，共同组建为第四军，这就是著名的“朱毛红军”。之后，毛泽东逐渐取得对井冈山红色区域的绝对领导权。但不久，质疑的声音就再次出现。
毛泽东在如何治军、如何带兵打仗、如何壮大军队等方面都有自己的独立主张，并且经常提出有别于中央指示的主张，这让中央特派员刘安恭非常不满。
1929年5月，刘安恭批毛泽东是“自创体系”，是“反中央派”。红军内部爆发了对毛泽东职权范围和领导作风问题的大争议。与毛泽东比起来，朱德不仅读过军校，而且身经百战，战斗经验丰富，获得大多数大小军官的支持。而站在毛泽东一边的仅有林彪、谭震林等少数人。因此，毛泽东的前敌委员会书记职务被撤，由陈毅接任。
陈毅并没有处理好这次内部矛盾，他对朱毛各打五十大板，这让毛泽东非常不满并拒绝出席红四军的会议。他大病一场，患上当时很难治愈的疟疾。而思想上的打击似乎更为沉重。他第一次离开了亲手创建的红军，养病去了，过着隐居般的田园生活。外界没有了毛泽东的消息。他仿佛在红军中消失了。国统区的报纸甚至发了一个号外，称“匪首毛泽东被击毙”于山中。
远在莫斯科的共产国际，也郑重其事发了一千多字的讣告。里面说，“中国共产党的奠基者、中国游击队的创立者和中国红军的缔造者之一的毛泽东同志，因长期患肺结核在福建前线逝世。这是中国共产党、中国红军和中国革命事业的重大损失”，讣告还宣布，“作为国际社会的一名布尔什维克，作为中国共产党的坚强战士，毛泽东同志完成了他的使命”。
此时上海的中共中央，虽不认可毛泽东的工农武装割据理论，但他们却很是欣赏“党对军队保持绝对领导”的想法。当时实际主持中央工作的李立三在1929年7月撰文高度赞扬“朱毛是革命农民武装的先锋队，又有无产阶级的政党为之领导。”
因此，在陈毅赴上海汇报后，中共中央明确表态说，“毛同志应仍为前委书记，并须使红军全体同志了解而接受”。于是，在1929年12月，毛泽东又重新夺回红四军领导权，他的工农武装割据哲学得到了党内的认可。
毛泽东立刻抓住这一机会，起草一个三万多字的文件，交四军党代表大会通过，史称“古田会议决议”。这个决议明确提出必须确立中共对红军的绝对领导，因此确立了红军建设的基本原则，成为中共建军的纲领。
借遵义会议翻身掌军权
蒋介石不可能坐等苏区一步步壮大，从1930年开始接连展开对红军的围剿。在这一时期，毛泽东充分运用他的军事指挥才能，避实就虚，集中优势兵力打歼灭战，在运动中歼灭敌人，打破了政府军的多次围剿，创造了“以少击多”的典范。到1931年底，毛泽东和朱德下辖的红军已发展到数万人，并统治了大片土地。毛泽东的以党建军的思想及其军事指挥才能为他博得了更高威信，也奠定了他日后成功掌握大权的关键。
他的军事才能引起了共产国际的关注，苏联报章多次报道红四军的战绩，措辞热情洋溢。1930年6月，毛泽东在六届三中全会上晋升为政治局候补委员，这是他在1925年因为与陈独秀的分歧离开中共中央五年后，再次接近中共最高领导层。
就在红军前景一片光明的时候，听从共产国际命令的中共中央却仍相信革命的前途在城市。尽管中央苏区不断壮大，他们依然鄙夷山沟里出马克思主义的那套想法。
中央对擅自行动的毛泽东越来越不满，他在军事上的成就也让中央担忧，因此开始防范并打压毛泽东。1930年11月初中央代表团主持召开中央苏区党第一次代表大会（即赣南会议），严厉指责毛泽东开创的方针策略为“狭隘经验论”、“农民的落后思想”、“富农路线”和“右倾机会主义”。1932年毛泽东被安排在长汀休养，这是他第二次被迫离开中央。
1933年6月，毛泽东骑着他的大白马从瑞金沙洲坝赶到宁都，参加苏区中央局会议。会上，毛泽东为自己做辩护，但换来的是更严厉的批评。第二年他则被遣送到瑞金东二十里的东华山上古庙里休养，军事指挥权力几乎被完全剥夺。
更令他痛苦的是，被王明主义左右的中共中央坚持“进攻路线”和“阶级决战”，使得政府军得以“步步为营”和“碉堡政策”逐渐蚕食中央苏区。毛泽东辛辛苦苦打下的基业被留苏派毁掉，这更坚定了他摧毁“教条宗派集团”的决心。
他对探视他的赣南军区司令员龚楚说，“我自从参加革命以来，受过三次开除中委和八次严重警告的处分，这次更将造成失败的责任，完全推在我的身上。现在，可不是我们井冈山老同志的天下了！”说时凄然泪下。
共产国际和留苏派让毛泽东彻底伤透了心，但惯于审时度势的毛泽东也清醒意识到，以他现在的党内地位公然顶撞莫斯科，只会更受排挤。虽然很无奈，但是他必须等待时机。
养病期间，毛泽东读了大量马列著作。当然，他并不准备放弃自己的想法，转变成“正统”的马克思主义者。他的目的是增强理论修养，以此来反击那些教条主义者和宗派主义者。
毛泽东1957年回忆说：“我没有吃过洋面包，没有去过苏联，也没有留学别的国家。我提出建立以井冈山根据地为中心的罗霄山脉中段红色政权，实行红色割据的论断，开展‘十六字’诀的游击战和采取迂回打圈战术，一些吃过洋面包的人不信任，认为山沟子里出不了马克思主义。1932年（秋）开始，我没有工作，就从漳州以及其他地方搜集来的书籍中，把有关马恩列斯的书通通找了出来，不全不够的就向一些同志借。我就埋头读马列著作，差不多整天看，读了这本，又看那本，有时还交替着看，扎扎实实下功夫，硬是读了两年书。”
终于事情有了转机，毛泽东凭借军事才干得以在政治上翻身。红军在1934年第五次反围剿中损兵折将，被迫长征，而又一路损失惨重。军事失败加上毛泽东对王稼祥、张闻天的争取渐见成效，使得毛泽东终于盼到了政治翻身的良机。攻占贵州遵义之后，党内高层决定开会检讨前途，这也是毛泽东有意促成的。
会议上，毛泽东分化了国际派，争取到周恩来，从而重新进入领导层核心。遵义会议取消了博古、李德、周恩来领导的“三人团”，由周恩来担任代表党在军事上“下最后决心者”，毛泽东则辅助周恩来。毛泽东运用他在军官中的威望，成功挽救了他的政治生涯。
在进军井冈山后，遵义会议是毛泽东政治生涯的第二个重要转折点。毛泽东后来说，他这个人是“本来很灵”，“但被扔到茅坑里去，搞得很臭”的“菩萨”，在遵义又开始“香起来”，并被大家捡了起来。
尽管遵义会议并没有批判莫斯科，并且坚持认为“中共的政治路线是正确的”，但出于策略考虑，急于复出的毛泽东没有反对这个结论。他很清楚，他现在的首要目标是先掌控全党，然后再对其全面改造。在真正掌权之前，必须有所妥协。
1935年2月，毛泽东在《忆秦娥·娄山关》中写道：“雄关漫道真如铁，而今迈步从头越。从头越，苍山如海，残阳如血。”遵义会议让毛泽东更加自信，如同在战场上一样，他完全可以在政治上“以少胜多”。遵义会议后，毛泽东开始利用战时环境，谋求党内更高地位。
到了1935年春夏之交，毛泽东成功与周恩来调换了角色，成了事实上的最高军事首脑。这对毛泽东意义重大，因为在战时状态下，军队与党实际已融为一体。当毛泽东置身于领导军队的关键地位时，他不但掌握了兵权，同时也在事实上处于随时可以掌控全党的有利位置。
毛泽东要实现他的理想，就必须掌握全部最高权力。从1927年到1935年，他已经成功地控制了军队，并接近于控制全党，他开始越来越接近自己的目标了。下一步，就是真正把党权握在手里。
