1947年5月和6月间，国民党向山东、陕北发动的重点进攻已成强弩之末，但在兵力对比上，国民党军仍占优势。他们在全国仍有248个旅，其中31个旅共20多万人压在陕北战场上，56个旅共40多万人放在山东战场上，对解放区实施重点进攻。兵力优势或进击顺利的一方的指挥者容易忽视或很少想到对方有组织反攻的可能。毛泽东敏锐地看到了这一点，因此，当对手在陕北、山东炫耀武力的时候，他认为解放军出敌不意地进行攻击，进而转入全国性战略进攻的时机已经以来，即使我们的整体力量还弱于敌人，也能够在战略上予敌以突然打击，使战局朝着有利于我军的方向发展。
国民党当时在全国军事力量的布置上如同一个巨大的"乙"字，两头大、中间细，所以又被时人称为"大哑铃"。主力深陷在山东和陕北两个相隔很远的战场上拔不出来。连接两个战场的中央是晋冀鲁豫战场，经过解放军豫北、晋西南攻势后，敌兵力损耗很大，战略协同困难。敌之战略纵深的中原和江南的广大地区，也异常空虚，许多城镇、交通线只能靠交警总队、保安队、民团来守备。而我晋冀鲁豫解放军正处在"乙"形中间，只要砍断敌人的哑铃把子，我军就可能变被动为主动。毛泽东根据战局发展的形势，客观、全面和深刻地分析了敌我双方基本情况和敌人的战略企图，正确选定了中原地区作为我军转入战略进攻的突破口，以大别山作为此次战略反攻的主要目标。这充分体现了他非凡的远见卓识。这地区北有国民党所谓能抵40万大军的"黄河天险"，因此250余公里"黄河防线"正面上，国民党只摆了三个师，而我军如能在此一举突破，便能控制中原，切断津浦、平汉和陇海三条交通线，更可南扼长江、西逼武汉、东慑南京，从而动摇敌军整个战略布局。刘伯承对此的领会是：山东按着敌人的脑袋，陕北按着两条腿，我们拦腰砍去。
进攻前夕，毛泽东作了"三军配合、两翼牵制"的战略部署，即晋冀鲁豫野战军主力强渡黄河，在鲁西南地区大量歼灭敌人，配合华东野战军粉碎敌人对山东的重点进攻，尔后跃进大别山，在鄂豫皖战略展开；晋冀鲁豫野战军陈谢集团，在晋南渡过黄河，挺进豫陕鄂，配合西北野战军粉碎敌人对陕北的重点进攻，在豫西、陕南、鄂西北战略展开；华东野战军主力，在打破敌人的重点进攻后，首先在鲁西南地区牵制敌人，掩护晋冀豫野战军主力向大别山的战略行动，尔后挺进豫皖苏，在该地区战略展开。如此，这三支大军便可在江、淮、河、汉之间，布成"品"字形阵势，互为犄角，逐鹿中原。为进一步造成敌人错觉，出敌不意，毛泽东又命西北野战军出击榆林，调动进攻陕北的胡宗南集团北上，以华东野战军一部在胶东积极钳制敌人，以此掩护南线解放军主力的战略进攻行动。
1947年6月30日夜，渡河作战开始了。刘邓十几万大军集结在从张秋镇到临濮集150公里的地段上。成百条大小船只，开出了隐蔽的船坞。来自7个县的船工，身佩红花，手握舵把，待渡河令下，驾船直驶对岸。在浊浪滚滚的黄河对岸，尽管国民党刘汝明部的五十五师和六十八师在河岸上修筑了密密层层的工事，但沉醉于蒋介石黄河足抵40万大军的神话，解放军渡河战役就要开始时，他们还全然不知。据说，当夜五十五师一个团的军官们还聚集在一个大工事内为他们的团长祝寿。正当他们觥筹交错之时，黄河北岸150公里宽的正面处，传来了震天动地的炮声，紧接着解放军战船齐发，直指南岸。国民党军这才如梦初醒，疯狂地进行阻击。但在我军猛烈炮火的打击下，敌人很快土崩瓦解退守郓城、菏泽，我军立即占领了沿河的广大地区。
我军这次突击大大出乎蒋介石的预料，直到我军过河，蒋介石仍不想念解放军会在他眼鼻子底下展开大的军事行动，漫不经心地以为解放军在他优势兵力的压力下，决无转向外线进攻的能力，因而还错误地判定刘邓大军此番行动只是在有限地区内的反击行动，只要派兵堵上黄河这个"决口"，便可相安无事。于是，他令原防守部队退守郓城、菏泽，牵制解放军，又急从豫北、豫皖苏抽调整编第三十二师、六十六师、五十八师及整编第六十三师的一五三旅，伙同原驻守嘉祥的整编第七○师来援。意以坚守郓城来吸住解放军，然后以主力包围我军，迫使我军在此地背水作战。于是，解放军外线部队，特别是主要方向的部队在过江后又面临能否突得破、插得进、站得稳的考验。
鲁西南地区被黄河、运河和陇海铁路切成了一个三角形，郓城是顶角，陇海路是底边。敌人企图在三角形的顶角逼我决战。掌握了敌人的作战意图后，我军将计就计，决定采用"攻其一点，吸其来援，啃其一边，各个击破"的战法。晋冀鲁豫野战军第一纵队坚决攻歼郓城之敌，吸引敌人继续北进，二纵、六纵从两路敌人之间向西南猛烈穿插，乘敌一五三旅在定陶立足未稳，与菏泽敌人还没有连成一片的情况下，立即以猛虎下山之势，歼灭该旅，并乘胜解放曹县，挫败左路敌军的企图。三纵经皇姑屯、沙土集，向正南直插冉固集、汶上集，转到右路敌人的侧背去。这样，我军便摆脱了被动迎敌的态势，完全处于主动地位。从7月7日到10日，我军取得了一系列战斗的胜利。这时，敌整编七○师、三十二师、六十六师又分别推进到了六营集、独山集、羊山集。这三镇相距各约15公里，3个师各据一镇，首尾相接，恰似一条长蛇。10日，中央军委指示，应放手歼灭敌人，歼敌越多，对配合山东粉碎敌人重点进攻，对向大别山跃进就越有利。14日，晋冀鲁豫野战军按中央指示，全歼踞于六营集的敌人，并将第六十六师主力两个旅包围在羊山集地区。同时，解放军华东野战军的5个纵队进至津浦路及以西地区，以配合刘邓大军。
面对岌岌可危的局面，蒋介石坐不住了。19日，他亲飞开封指挥，并调集陕鲁兵力火速向鲁西南增援。然而，我军在敌援军未到之前，就全歼敌整编六十六师和敌援兵先锋一九九旅于羊山集地区，胜利结束了鲁西南战役。鲁西南战役进行约1个月，共歼敌5.6万人，迫使敌从鲁陕等地抽调11个整编师28.5个旅的兵力向鲁西南增援，打乱了敌人的全盘战略部署，实际上粉碎了敌人向山东重点进攻的企图，揭开了我军战略进攻的序幕。
鲁西南战役后，下一步便要打通进入敌人战略纵深的道路。早在战役结束前，毛泽东即建议刘邓大军：下决心不要后方，以半个月的行程，直击大别山，占领大别山为中心的数十县，建立根据地，吸引敌人向我进攻打运动战。当时敌处外线，我处内线，黄河以南广大地区还控制在国民党手中。因此，他们并不担忧其战略纵深内南京和武汉两地的安全，也猜不到我军以后会突然甩开对手，远离后方而实行千里征战，把战略进攻的矛头直指大别山区。甚至就在刘邓大军浩浩荡荡分路越过陇海路，以连续急行军向敌人空虚的战略后方跃进时，蒋介石还以为解放军是连战疲惫，北渡不成，"损失惨重而南窜"。而我晋冀鲁豫野战军与华东野战军西兵团在鲁西南造成强大的进攻态势后，即按中央军委指示，休整半个月，准备于8月15日开始南进。当敌发现我军南进迹象后，即刻调集30个旅对我分进合击，并企图切断我军退往黄河以北的道路，妄图迫我军背水决战，以堵住南线中央被我军撕裂的防线缺口。这些天又连降大雨，河水猛涨，黄河南岸旧堤随时有决堤之虞，种种情况表明，我军主力不宜久留鲁西南。为争取主动，刘邓首长毅然决定，提前于8月7日分三路南进，同时命十一纵队和华野十纵队进至郓城东西地区，摆开北渡黄河的架势掩护我军主力南下。11日，我军主力跨过陇海线，敌则根据先前的错误判断，还在作围追堵截的打算，企图在黄泛区歼灭解放军。直到17日，大军过黄泛区，矛头直指淮河、大别山时，蒋介石才恍然大悟，慌忙派兵沿平汉路南下堵截。24日，我军主力到达汝河北岸，国民党堵截部队一部正在南岸布阵，尾随的3个师又已迫近。在这紧急关头，刘伯承号召全军指战员发扬"狭路相逢勇者胜"的精神，硬是杀开一条血路，冲过河去。此后，蒋介石调兵堵截的速度再也赶不上解放军南下的速度，我军经过连续20天的急行军，克服了重重困难，于27日全部渡过了淮河，先敌进入了大别山区。
对下一步我军在大别山战略展开的行动，毛泽东估计了三种前途：一是付了代价站不住脚，准备回来；二是付了代价站不稳脚，在周围坚持斗争；三是付了代价，站稳了脚。以此告诫部队要做好充分的思想准备，须从最坏处着想，朝最好处努力。刘伯承说，这次我们啃骨头，是革命的历史给了我们这个任务。我们一刀插进敌人的胸膛，敌人一刀砍了我们的臂膀，我们虽然出了血，也应该看一看敌人胸膛上的刀，看一看友邻的胜利，全局的胜利，这些胜利中就有我们的一份。为了夺取全国胜利，付出任何代价都在所不惜。
在大别山实施战略展开，在全国战场上虽是外线进攻，但现在作为一个局部，却变成了内线防御。部队在新区作战地形不熟、语言不通，而且群众尚未发动，政权尚未建立，粮要自己筹，伤员要自己抬，打完仗连休整的地方也很难寻觅。更为严重的是，自中央突破后，敌人的哑铃把子断了，两头的敌人被拉了回来，敌人集中40多个旅的兵力，妄图把我军歼灭或困死在这里。为粉碎敌人的企图，我军遵照毛泽东大批歼灭敌人，一切依靠打胜仗和分兵发动群众，集中应付敌人的作战原则，千方百计地在这里站稳脚跟。不到半年时间，大别山根据地便初具规模，建立了33个县的民主政权，组建了鄂豫、皖西这个军区，初步完成了战略展开，在国民党统治中心插进了一柄利剑。
就在晋冀鲁豫野战军主力向大别山挺进、调动敌人20多个旅往南追击，西北野战军又将胡宗南主力吸引在陕北之时，毛泽东乘陕南、豫西地区空虚，命令我军陈谢集团于8月22日在山西垣曲东西地区突破黄河防线，向陇海路潼路段进击，以后又挥戈东进，向豫西展开。到11月下旬，陈谢集团开辟了豫陕鄂根据地，也完成了战略展开。与此同时，华东野战军在打破国民党军对山东的重点进攻后，又全力配合晋冀鲁豫野战军作战，他们经聊城南渡黄河至鲁西南，尔后向豫皖苏挺进，在黄河以南、淮河以北、津浦路以西、平汉路以东广大地区展开，巩固鲁西南阵地，恢复和扩大了豫皖苏解放区。
这样，解放军南线三路大军在战略进攻的开始阶段，实现了内线部队和外线部队的协调，外线部队中主要进攻方向和辅助进攻方向的协同。三路大军分别进入了大别山、豫陕鄂及豫皖苏地区，并经艰苦斗争站稳了脚跟。于是，敌我双方的态势起了关键性的变化，我在中原形成了"品"字形的战略结构，这对以后人民解放战争的胜利发展起到了非常重要的战略作用。对此，毛泽东高瞻远瞩地指出："这是一个历史的转斩点。这是蒋介石的二十年反革命统治由发展到消灭的转折点。这是一百多年以来帝国主义在中国的统治由发展到消灭的转折点。""这个事变一经发生，它就将必然地走向全国的胜利。"（谢伟民）
