与此同时，日军也开始入侵山东，原西北军旧部山东省主席韩复榘率第三集团军与日军交战，韩复榘所部无法抵挡日军进攻，在济阳城关几乎被俘，此间，当韩得知蒋介石借口加强淞沪战场，已将重炮旅调走后，认定蒋介石意借日军之手消灭异己，为给嫡系部队保留实力，弃守黄河防线，与1938年1月被蒋介石以“不听命令，擅自撤退”等罪名诱杀于武昌，所属部队被收编。日本大本营为打通津浦铁路，使南北战场连成一片，先后调13个步兵师团约30万人、大炮1180门、坦克512辆、飞机213架，在海军、空军配合下，去进攻徐州，然后沿陇海铁路(兰州至连云港）西取郑州，再沿平汉铁路（北京至汉口）南夺武汉。
由于蒋介石主力部队被打散，无力再战，徐州一带由第五战区司令长官国民党桂系领袖李宗仁布防，李宗仁先后调集64个师另3个旅约60万人，与日军展开徐州会战。参加徐州会战及台儿庄战役的军队，除桂系精锐部队李品仙第二十一集团军的第三十一军及廖磊率领的第十一集团军的第七军、第四十八军之外，还有溃潮中的各中央军与地方部队，包括原西北军将领张自忠五十九军，原东北军旧部于学忠的第51军，川军邓锡侯第四十一及四十五两个军，原西北军冯玉祥旧将孙连仲所属第二集团军，辖第三十军田镇南部的第三十一师,第四十二军冯安邦部的二十七师及独立第四十四旅。另有中央军汤恩伯的第二十军团的两个军，即关麟征的第五十二军和王仲廉的第八十五军计五个师等。
徐州位于江苏省西北，地处安徽、河南、山东三省交界之处。会战实际上由两个阶段组成，首先是以台儿庄战役为核心的鲁南会战；其后为台儿庄大捷之后，日军以徐州为中心部署的徐州会战，涉及山东、江苏、安徽、河南等省，这一阶段李宗仁率各部被迫突围。
台儿庄战役前后近一个月，主战方为西北军旧部的张自忠第59军，孙连仲第2集团军，庞炳勋第3军团，及汤恩伯第20军团等，以伤亡2万多人的代价，击溃了日军两个最精锐师团的进攻，歼灭濑谷混成旅大部、坂本支队一部，共计1万余人，缴获各型火炮70余门，坦克40余辆，装甲车70余辆，汽车100余辆，枪械1万余支及其他战利品。
1938年4月，台儿庄战役大捷后，蒋介石深受鼓舞，匆忙将20余万中央军调到了徐州战场，计划借李宗仁等胜利的余威，和日军在徐州决战。对于中国军队在徐州地区的大量集结，日军认为这正好是消灭中国军队主力的好机会。5月初，日军迅速集结10多个师团30多万人向徐州地区夹击。日军在徐州的包围圈马上要形成时，蒋介石发现主力部队有被包围在徐州的危险，就又决定弃守徐州。因此，徐州会战在布局阶段的中后期就放弃了。
1938年5月，就在国民党部队开始突围之际，日军土肥原所部第14师团约2万人为切断中方退路强渡黄河。但由于孤军深入，陇海线附近国民党部队有6个军12万人，土肥师团反成孤军深入之势。
当国民党军队对日军第14师团形成合围之势，由于蒋介石的两支嫡系部队不听指挥，乱了阵脚，临阵退却，彻底打乱部署。接着土肥原卷土重来，进攻河南开封，开封失守已成定局，郑州岌岌可危。为阻止土肥师团，掩护国民党军队后退，蒋介石于5月31日夜晚做出一个重大决策：掘开黄河大堤，“以水为兵”，阻止日军，即“花园口事件”。6月9日9时，国民党军队用炸落和平射炮轰炸黄河大堤。轰炸成功，出现一个宽约4米的决口，一个小时后达到10米。截至晚上8时，“掘口处被水冲开，已达40尺，水深丈余，浪高三尺。”花园口决堤后，黄河水经中牟、尉氏沿贾鲁河迅速下泄。第二天，黄河中上游普降暴雨，水量猛增，决口处进一步被冲大，西边一路沿颖河下泻淮河，东边一路沿涡河到安徽怀远流入淮河。黄、淮合流后涌入洪泽湖，淮河、洪泽湖沿岸立即变成了一片汪洋。
就在花园口破堤的同时，日军前锋已攻陷了距郑州30公里的中牟，从天而降、一望无际的黄河水，使日军官兵进退两难、不知所措。突入豫东地区的日军，有的来不及逃脱而被洪水湮没，有的为伤病所累而被丢弃，还有一部分为中国军队所歼灭，其他的只好停止追击，集结于黄泛区以东。决堤虽然阻滞了日军西进势头，但也给这一地区的老百姓带来了巨大灾难。掘堤时，直接淹死和饿死的百姓多达89万人。
毁花园口大堤，阻止了机械化日军的行动，迫使日军无法利用淮河西进、利用平汉线南下。日军由此不得不放弃以主力沿淮河西进大别山的计划，改为以主力沿长江两岸向武汉推进。国民党军队借此喘息之机调整了防线，以第一、第三、第五战区的部分兵力和第九战区的全部兵力，计130多个师，约120万人，围绕武汉为核心，构成一条穿越豫、鄂、皖、赣4省，防御正面达1300余公里的巨大防线。
徐州会战历时5个月，日军在会战中伤亡在2.6万人以上。中国军队伤亡合计约6.5万余人，包括原西北军张自忠第59军，伤亡约1.5万人。原西北军孙连仲第2集团军伤亡约1.4万人。原西北军庞炳勋第3军团，全军万人伤亡约八千人。川军孙震第22集团军，伤亡官兵约万人。汤恩伯第20军团及临时辖属各部总伤亡约万人。桂系刘士毅第31军、于学忠第51军合计伤亡近6000人等。
徐州会战之后，1938年6月又爆发了武汉会战，战场在长江南岸及北岸，横跨安徽省、河南省、江西省及湖北省，共进行了四个半月，由于日军的全面战争处处受到阻截，日本集结12个师团约35万人与国民党军队进行决战。
早在日军占领南京后，日本大本营就开始研究所谓“攻占汉口作战”。日军参谋本部情报部认为：从历史看，只要攻占武汉，就能支配中国，通过武汉会战，可以做到以武力解决中国事变大半的目的，只要控制了武汉，即可以把蒋政权逐出中原，“使蒋政权降为地方政权”。日军规模庞大的“汉口会战”的另一个目的，正如日本天皇裕仁在武汉会战前的御前会议上所说，为了给国民党政府最后致命的一击，迫使中国投降，不愿见到“帝国雄狮百万受制于中国”。为此，日本拿出32.5亿日元的作战费用预算，“陆军为汉口作战倾注了全力，没有应变之余力”。据战后发现日军文件证明，连日本本土仅留的一个近卫师团，也待命随时增援武汉会战。
武汉会战中，蒋介石将各地方军与中央军进行了统筹整合，包括一些无地盘的晋绥军、原东北军和西北军旧部，以及离开本土抗日的川军、滇军和桂军等地方实力派军队，达124个师，40余艘舰艇，220架飞机共约110万人。武汉会战吸取了淞沪和南京打阵地战作战模式的教训，不再聚集重兵于背水，一旦环形防线被突破，几十个师都有被压迫于水边而被歼灭的危险。而将主力将队放在外围，利用山脉地形与日军作战。
蒋介石为总指挥，划长江以北为第五战区，以桂系李宗仁为战区司令长官，后为白祟禧。武汉会战是日本全面战争战略防御阶段规模最大的一次战役，其中在万家岭一带，日军第106师团大部被歼，史称万家岭大捷。
武汉会战历时四个半月。大小战斗数百次，日军使用12个师团，死伤达10万人以上，中国参战部队伤亡超过40万人。
早在1934年10月至1936年10月间，中国工农红军进行了万里长征，中央红军最终到达中国西北方的陕甘苏区和陕北苏区，即以整个大西北为战略纵深。
而南京失陷，蒋介石移都西南方的重庆，即以川、滇、黔三省为战略纵深。云贵高原西邻缅甸，可以从这里到达印度，并接受英美等国对中国的援助。
地缘势力是由个国家的综合实力来决定的，对外影响逐渐扩大，则地缘势力扩张，反之亦然。战后日本军事专家认为，日军攻克上海与南京是日本在侵华战争中最大的战略失误。虽然在战争初期日本可以获得中国的半壁江山。但会因此而模糊自身的战略意图，没有任何退路的中国各方势必联合起来，与日军决战。同时日军“全面战争”还有另一层结果是，日军全面占领不仅直接损害到英美等国的利益，也意味着东亚战场失去了地缘平衡，其影响足以震惊世界各强权。日本在中国的全面战争，使苏联与美国感受到巨大威胁，由于担心其“独吞”东亚，控制整个中国、朝鲜半岛、越南，并将太平洋变成了日本的内海，进而美苏通力合作，联手夹击。
